ハッカソンで開発したチャットツール「ChatBan」を通じ、大規模なコンテキストをプロンプトに載せる際のコスト課題と、プロンプトキャッシュの効果的な活用法について解説します。実際の運用データを基に、コスト削減の検証結果を共有します。