DeepSeek v4検証：llama.cppでの推論速度

deepseek v4 flash q2 を 128GB mem + 16 GB VRAM で動かした tok/s メモ

上級 Zenn LLM 二次情報・解説提携・導入 2026-07-29T14:04:55 約1分

編集メモ: 大容量メモリを活かしたLLM実行の検証例で、高コストなGPUなしでも推論環境を構築・評価する工夫は、低予算でのAI導入を検討する現場にとって非常に有益な知見となります。

EDITORIAL SIGNAL

このニュースの影響

重要度中

製品選定や業務・開発手順に影響する可能性があります。

公式発表、提供条件、利用者への実際の影響

タイトル・要約の語句に基づく自動判定です。最終判断は公式発表・一次資料をご確認ください。

Threadripper 1950xとDDR4 128GB環境で、llama.cppを用いたDeepSeek v4モデルの実行検証。GPUなしとGPUありの性能比較を行い、プリフィルとデコードのトークン生成速度を測定した結果を記録している。