80GBのVRAMを搭載したH100を使用しても、35Bモデルの実行は3B分のみに留まり、会話の実装には高い壁があることが判明した。モデルのサイズと推論時のメモリ消費、会話パフォーマンスを同列に語ることはできないという教訓を得た実体験レポート。