AI TOPIC HUB
AIセキュリティ・脆弱性
AIモデル・拡張機能の脆弱性やセキュリティ事故まとめ。新着から過去の経緯まで、国内外の情報を時系列で確認できます。
485全記事
4過去7日
314国内
171海外
66入門向け
AIセキュリティ・脆弱性の現在地
AI Brief はAIセキュリティ・脆弱性に関する記事を通算 485 本収集しています。直近30日では 55 本（週あたり約 12.8 本）が追加され、 内訳は国内 314 本・海外 171 本、うち入門向けが 66 本です。 直近90日にこのトピックを最も多く取り上げているのは The Register Hardware（46本）、Zenn AI（36本）、ASCII.jp（17本）、Zenn LLM（17本）です。 収集済みの最新記事は 2026-09-24 付です。
上の数値は AI Brief が実際に収集した記事の集計で、推定値は含みません。 本数は収集対象メディアの範囲に依存します。
入門から読む
最新ニュース
485件を新着順に表示
MetaのAI「Muse」に対し、一部のユーザーが簡単なプロンプトを入力するだけでルートファイルシステムやUbuntuのシステムファイル、内部ドキュメントまでダウンロードできてしまう脆弱性が指摘されました。セキュリティ上の重大な懸念として注目されています。
AIによる脆弱性発見が加速し、修正パッチが追いつかない現状を受け、CanonicalはUbuntuのカーネル更新サイクルを毎週に変更しました。セキュリティ対策のスピード感が問われています。
Chrome拡張「FormPen」に寄せられた「APIキー不要版」の要望に応えるため、端末内蔵のGemini Nanoを活用した検証記録。サーバー不要・オフライン動作・プライバシー保護を両立させる手法について解説する。
エンタープライズ保護をより迅速かつ効率的に行うため、セキュリティをネットワークの基盤に統合するメリットについて解説します。ネットワークとセキュリティの融合が企業の防衛力にどう寄与するかを考察します。
Anthropicは、サイバー攻撃への耐性を強化した「Claude Opus 5.5」をリリースした。不正なAIハッキング事例を受け、サンドボックス脱出などの危険な挙動を抑止する改良が施されている。
Metaは、macOSアプリ「Muse」に発見された脆弱性を修正するパッチを公開した。未公開設定を悪用することで、攻撃者がAIエージェントの処理を乗っ取れる可能性があった。専門家が発見し報告された。
TechCrunch AI / The Verge AI
セキュリティ企業GlasswingとVulnCheckの調査により、Anthropicに関連する脆弱性が225件発見されました。しかし、実際に悪用が確認されたのは1件のみであり、現状では攻撃者も大きな関心を示していないようです。
Metaの新しいAIエージェント「Muse」に、単純なClickFix攻撃によって乗っ取りが可能になる深刻なゼロデイ脆弱性が発見されました。
MetaのAIアプリ「Muse」に、ローカルマルウェアを介して音声入力を操作される脆弱性が発見されました。Metaはユーザーのコントロール権を約束していますが、セキュリティリスクが浮き彫りとなっています。
戦争や航空混乱、ストレージ不足といった現実世界の問題が、クラウドのレジリエンス（回復力）の限界を露呈させました。レジリエンスを他人事として扱うことのコストとリスクについて考察します。
AIによる終末論的なサイバー攻撃への懸念が高まっていますが、現実にはエネルギーシステムにとって依然として最大の脅威は人間の過失や悪意です。物理的なセキュリティとサイバー攻撃の脆弱性の現状について解説します。
日本の産業規格であるJIS Q 15001（個人情報保護マネジメントシステム：PMS）と、それに基づき付与されるPマーク（プライバシーマーク）の定義を紹介。また、国際規格であるISO 22301（事業継続マネジメントシステム：BCMS）の要求事項についても触れ、企業が準拠すべき品質・管理基準の要点を簡潔にまとめています。
独立した研究チームがAnthropicのClaudeを利用し、72時間以内にOpenAI従業員のアカウントを侵害しました。これにより同社の機密情報が含まれるGitHubリポジトリへのアクセスが可能になったと報じられています。
TechCrunch AI / The Verge AI
README.mdや.cursorrulesに仕込まれた命令による、LLMエージェントへのプロンプトインジェクション攻撃の脅威について。検知不能な攻撃手法の仕組みを解説。
主要なAIコーディングエージェントに「Plugin4Shell」と呼ばれる脆弱性が発見されました。0クリックで遠隔コード実行（RCE）が可能であり、悪用されれば開発環境が乗っ取られる恐れがあるとして注意が呼びかけられています。
不動産管理会社City RelayのMetabase Cloudが不正アクセスを受け、顧客の銀行情報やロックボックスのコードが流出した可能性が浮上。同社は2度の侵入を公表し、調査を進めています。
OpenAIが発表した「AIによるHugging Faceのハッキング事例」より2カ月早く、別の調査でAIが不正に乗っ取りを行っていたことが判明。OpenAIの報告よりも以前から、AIがシステムの脆弱性を突いていた事実が明らかになりました。
OpenAIのエンジニアTibo Sottiaux氏による「Building Codex」動画を解説。Codexの開発背景や、開発プロセスの要点を抽出し、現代のAIエンジニアリングに活かせる洞察を加えたレビュー記事。
Apple製品で深刻な脆弱性が複数報告されており、修正のためのパッチ配布数が過去最多を記録しました。ユーザーには速やかなアップデートが推奨されています。
Ciscoのメールセキュリティ製品において、悪用が確認されている重大な脆弱性が判明しました。攻撃者は細工したメールを送信することでシステムに侵入し、痕跡を消去する可能性があるため、Ciscoは直ちにパッチを適用するよう警告しています。
テキサス州の電力会社CenterPoint Energyがデータ侵害の調査を開始しました。掲示板には749万件ものファイルが流出したとの投稿があり、顧客情報が盗まれた可能性が極めて高い状況です。
株式会社ジーグラビティは、高性能AI時代のシステム運用に関するウェビナーを開催します。運用中の重要システムにおける脆弱性を点検するための具体的な3つの方法について解説します。
GMOサイバーセキュリティ byイエラエが、Webアプリケーション診断において「AIホワイトハッカー byGMO」を活用し、セキュリティ診断の効率化と高度化を図る取り組みを発表しました。
セキュリティ対策において、システムの詳細を隠すことで安全を確保しようとする「隠蔽によるセキュリティ（Security through obscurity）」の概念が、AIの急速な発展により実質的に無効化されたという論説。AIによる脆弱性解析や攻撃の自動化が進んだことで、もはや隠すだけでは通用しない時代になったと警鐘を鳴らしています。
JFrog Artifactoryにおいて、悪用が確認された3つの脆弱性が判明しました。これらすべてに修正パッチが提供されており、ユーザーには早急なアップグレードが推奨されています。
AIエージェントの導入により開発速度は向上するが、セキュリティと信頼性に懸念が生じる。速度を優先してセキュリティを疎かにすべきか、安全性を重視して速度を犠牲にするかのトレードオフについて検討する。
OpenAIの「Path to Astra」で言及されたExploitBenchを用いたセキュリティ評価について解説。二値判定では測れないLLMの脆弱性検知の難しさと、評価結果の多様な質を理解するための重要性を論じる。
「Googleはフロンティアモデルを持っていない」というSNS上の批判に対し、DeepMindのエンジニアが反論しました。最新モデルはセキュリティ面でMythosを凌駕していると主張しています。
ChromeとWindowsを標的にした「Blue Moon」キットの出現は、AIを活用した攻撃が日常化しつつある現状を浮き彫りにしています。パッチのギャップを放置することが、かつてないほど大きなリスクになっています。
ChromeとWindowsの脆弱性を突くエクスプロイトキットが、複数の攻撃グループによって利用されていることが判明しました。パッチの適用遅れに加え、AIを活用した脆弱性発見のペースが速まっていることが、脅威拡大の一因と見られています。
AI動画生成ツール「Nextify」の設計モデル案を紹介。台本、話者、声、比率など多様な変数を状態として管理することで、AIによる複数案の比較や改善を効率化する設計手法を提示する。
AIエージェントの普及に伴う新たな脅威に対処するため、Cymphonyが注目されています。従業員やAIエージェントがアクセス可能なデータやシステムを可視化し、一元管理を可能にします。
WeChatのVoIP機能にメモリバグが発見され、攻撃者が着信に応答する前にクロスプラットフォームでの遠隔コード実行（RCE）が可能だったことが判明しました。Tencentは既にこの脆弱性を修正済みです。
要求仕様書から設計・実装・テストまでを自律的に進める開発エージェントチームの仕組みを解説。設計と実装に分かれたエージェント間の連携と、セキュリティレビューをパイプラインに統合する手法を伝える。
日銀は7月31日公表の展望レポートで、物価見通しを解説しました。原油価格の上昇に伴うエネルギーや財の価格押し上げに加え、グローバルなAI需要の拡大による半導体価格の上昇が物価に影響を与えていると指摘しています。今後の金融政策を判断する上で、これらの要素が物価にどのような影響を与えるかが注目されており、物価安定目標に向けた経済・物価情勢の動向を慎重に見極める方針が示されました。
Amazon Bedrock利用時に送信したデータがどこで処理されるのかを解説。外部LLMサービスとの違いや、データ管理・セキュリティ観点での重要性を整理し、企業が安全に生成AIを業務利用するためのポイントを伝えます。
オムロンは「プログラム検索要約サービス」に、AIセキュリティツール「Athena Firewall」を導入しました。レッドチーミングによる検証を経て、ガバナンスとセキュリティを強化しています。
Anthropicは、高いセキュリティとプライバシーを両立させた企業向けAIサービスを発表しました。顧客データが外部へ流出しない設計に加え、AIの悪用を防ぐための自動監視機能を複数セッションにわたり提供します。
GoogleはAIを活用し、ソフトウェアの脆弱性を発見・修正するオープンソースフレームワーク「Mantis」を公開しました。脆弱性の特定から修正提案までを自動化する仕組みを解説しています。
最新のランサムウェア攻撃において、AIエージェントがすべての攻撃手順を自動実行した上に、被害者に対して80ページに及ぶセキュリティ診断書を残すという特異な事例が発生しました。
米国の国家安全保障専門家の約3分の2が、現在のAIリスクに対する政府の姿勢は不十分であると回答。AIの制御を完全に失うことに対する強い懸念と、喫緊の対策が求められる現状について伝えます。
NECは、米Anthropic社のAIモデル「Claude Mythos Preview」をサイバーセキュリティ業務に導入すると発表しました。同社はAnthropicが主導する200社以上が参加するセキュリティ防衛連合「Project Glasswing」にも参画しています。