AnthropicがLLM内に「J-space」という構造を発見し、新手法「Jacobian lens」を公開。AIが言語化しない潜在的な思考を観測でき、不正コードや評価の歪みを検知可能になるため、AIの安全性向上に寄与します。
Anthropic、AIの“内なる思考”が宿る「J-space」を発見──新手法「J-lens」で可視化、安全性監視に応用
編集メモ: AIの「潜在的な思考」を可視化する技術は、AIの安全性と信頼性を飛躍的に高め、企業がより高度で責任あるAI活用を進めるための不可欠な基盤となります。
