AIが書いた「理由」を、人の判断として残さない — 判断記録とコードコメントで意図負債を減らす

24GB VRAMで27Bモデルを扱う際の長文コンテキスト評価指標を解説。推論速度や待ち行列など、性能に影響を与えるパラメータと測定条件を整理し、指標が混在しないよう正確な評価を行うためのノウハウを紹介します。