「オプテイン・パーシステント・メモリ200シリーズ」の最新ニュース

aibase · 2時間前

GPU不要で2.8兆パラメータモデルを旧型サーバーで動作、Optaneメモリが鍵に

40コアの旧型XeonサーバーとOptane Persistent Memoryを使い、GPUなしでMoonshot AIの2.8兆パラメータモデル「Kimi K3」を動かした事例が共有された。生成速度は毎秒0.85トークン。