AIが「テスト通過」と報告しても、実装・テスト・判断のすべてがAI内で行われているため、構造的な弱点があることを指摘。第三者的な検証を挟む重要性を実体験から解説。