LLMエージェントのベンチマークにおいて、ユーザー役のLLM(シミュレータ)が評価結果に及ぼす影響を分析。カスタマーサポート型ベンチマークの失敗事例から、ユーザー側の不可解な会話終了がスコアを左右する現状を指摘し、評価指標の妥当性を考察します。
ユーザー役のLLMを変えたら、エージェントの性能差が消えた — τ²-benchで実測
編集メモ: AIエージェントの評価において、評価環境(ユーザー役LLM)の設計が結果を左右するため、指標の妥当性やシミュレーターの信頼性を慎重に見極める必要があります。