あるRedditユーザーが、Optaneメモリと2基のRTX 3090を組み合わせた自作サーバーで、2.8兆パラメータという巨大なAIモデル「Kimi K3」を毎秒3.11トークンの速度で動作させることに成功しました。商用ハードウェアなしで大規模言語モデルを個人環境で実行する、画期的な技術的成果です。