小型LLM「lfm25-1.2b」におけるtool callingの成功率低下という課題を解決する手法を紹介。システムプロンプトの調整が困難な中、対話履歴に成功例をFew-shotとして組み込むことでモデルの行動を安定させることに成功した知見を共有します。
1.2Bモデルが tool calling を拒否する問題を few-shot で突破した話
編集メモ: 小型LLMにおけるTool Callingの精度不足に対し、システムプロンプトの調整が困難な環境下では、Few-shotプロンプティングによる対話履歴の補強が極めて有効な解決策となります。