「11回止めたのに本番DBが消えた」　AIエージェント“6つの暴走”と、人間の承認を増やしても防げない理由

チャットシステム設計におけるRAGの要否について解説。RAGは必ずしも万能ではなく、質問内容に応じてLLM単体、RAG、業務API・SQL連携を使い分けることが重要。各手法の適性を理解し、最適なアーキテクチャを選択する指針を提示する。