ローカルLLMの「全コア使用は遅い」を実測した — トークンは届いているのに画面に出なかった話

ローカルLLM運用時、全コア使用設定が逆にストリーミング表示の遅延を招く現象を分析。APIからのトークン到着とDOM表示時刻を分けて定量計測し、Ollamaのアップデートによる動作構造の変化を含め、表示最適化の重要性を解説。