SlackアプリでのExcel処理が遅延する問題の調査記録。LLMの推論時間ではなく、ファイル取得やデータ処理プロセスにボトルネックがあることを特定。HerokuやRedisの状態監視を通じて、エージェントシステムの性能改善手法を解説する。
SlackにExcelを投げたらAIが返ってこない。ログとxlsx2csvで直した話
編集メモ: AIシステムの遅延を解消するには、LLMの推論だけでなく、ファイル処理や外部API連携といったシステム全体のボトルネックを冷静に特定し改善する泥臭い調査が必要だ。