自己改善型AIとは？Anthropicが警告

Anthropicの上級安全研究者が「AIが21世紀末までに人類を滅ぼす可能性が10％以上ある」と発言、「Anthropicの安全対策が甘い」と退職する社員も

中級 GIGAZINE 専門メディア動向・その他 2026-09-10T05:06:00 約1分

編集メモ: AIの自己改善スピードが予想を上回り安全リスクが高まる中、開発ガバナンスとリスク管理の重要性がかつてないほど高まっています。

EDITORIAL SIGNAL

このニュースの影響

重要度参考

現時点では動向把握を目的とする参考情報です。

公式発表、提供条件、利用者への実際の影響

タイトル・要約の語句に基づく自動判定です。最終判断は公式発表・一次資料をご確認ください。

AnthropicのAI安全チーム責任者が、人間の介入なしで性能を自ら改善し続ける「自己改善型AI」の開発スピードが、当初の予測を上回る速さで進行していると強い警告を発しました。