AI TOPIC HUB
AIセキュリティ・脆弱性
AIモデル・拡張機能の脆弱性やセキュリティ事故まとめ。新着から過去の経緯まで、国内外の情報を時系列で確認できます。
398全記事
20過去7日
268国内
130海外
52入門向け
入門から読む
最新ニュース
398件を新着順に表示
AIが生成したコードのセキュリティレビューにAIエージェントを活用するスタートアップGitarが、900万ドルの資金調達を経てステルスモードを解除しました。AI開発が加速する中、AIが書いたコードの安全性を確保するソリューションを提供します。
Microsoftが2026年4月14日に画像生成AI「MAI-Image-2-Efficient」を発表しました。このモデルは、既存の競合モデルと比較して、より安価で高速な画像生成処理が可能であるとされています。
Linuxカーネル開発コミュニティは、数ヶ月の議論を経てAI生成コードの寄稿に関する公式ポリシーを策定しました。リーナス・トーバルズ氏らの合意により、AIを実用的なツールと認め、人間が責任を持って使用することを前提としたガイドラインが確立されました。
ベセント米財務長官とパウエルFRB議長が銀行幹部との緊急会合を開き、米Anthropicの最新AIモデル「Claude Mythos」が引き起こす可能性のあるサイバーセキュリティリスクについて警告しました。金融システムへのAIの影響に警戒感が高まっています。
Gartnerは、2028年までに企業向け生成AIアプリケーションの25%がセキュリティインシデントを経験すると予測。MCPなどの新規格が潜在的なリスクを抱えるため、企業は業務専門家との連携を強化し、厳格なガードレール設定と監視体制の構築が不可欠であると警鐘を鳴らしています。
MozillaのAIセキュリティチーム0DINが、オープンソースのAI向け脆弱性テストツール「0DIN AI Scanner」を公開しました。このツールは、新しい脆弱性が発見されるたびにライブラリが更新され、AIシステムのセキュリティ向上に貢献します。
Anthropic社の最も高性能なAIモデル「Claude Mythos Preview」は、主要なOSやウェブブラウザで数千ものサイバーセキュリティ脆弱性を発見しました。同社はこのモデルを一般公開せず、「Project Glasswing」と称して、インターネットの安定稼働を担う組織に密かに提供し、活用を進めています。
Anthropicの最新AIモデル「Claude Mythos Preview」は、主要なOSやウェブブラウザで数千ものAIサイバーセキュリティ脆弱性を発見しました。同社はこのモデルを一般公開せず、インターネット運営を担う組織に密かに提供する「Project Glasswing」として展開しています。これは、AIの能力を活用しつつ潜在的なリスクを管理するための慎重なアプローチを示しています。
OpenAIは、AIの進歩に関連して増加する児童性的搾取の問題に取り組むため、「児童安全対策の青写真」を発表しました。この新たな取り組みは、AI技術が悪用されるリスクを軽減し、子どもたちを保護するための具体的な戦略と対策を示すものです。
Anthropicは、現行モデルを凌駕する次世代モデル「Claude Mythos Preview」の存在を明らかにしました。攻撃への悪用リスクを考慮し、一般公開は見送られており、現在は防御目的での限定的な活用に留まっています。
Anthropicは、最新AIモデル「Claude Mythos Preview」を活用し、世界的に重要なソフトウェアの脆弱性を発見・修正するセキュリティプロジェクト「Project Glasswing」を発表しました。このプロジェクトは、AIによるソフトウェアの安全性向上を目指すもので、国家インフラや重要なオープンソースソフトウェアの保護に貢献すると期待されています。
Anthropicは、AIによるソフトウェア脆弱性発見・悪用リスクに対応する「Project Glasswing」を発表しました。未公開モデル「Claude Mythos Preview」をAppleやGoogleなどと連携して活用し、重要インフラの安全性を強化します。攻撃転用を防ぐため、モデルは一般公開せず、防御側に優位性を持たせる方針です。
Anthropicは、新しいAIモデル「Mythos」のプレビューを、サイバーセキュリティの新たな取り組みとして発表しました。このモデルは、選ばれた少数の著名企業によって、防御的なサイバーセキュリティ業務に活用される予定です。
Anthropicは、Nvidia、Google、AWS、Apple、Microsoftなどとのサイバーセキュリティ提携の一環として、新しいAIモデル「Project Glasswing」を発表しました。このモデルは、人間による介入をほぼゼロに抑えながら、大規模企業や政府機関のシステムにおける脆弱性を特定することを目的としています。
セキュリティロボティクス企業AsylonとAIエージェント駆動プラットフォームThrive Logicが提携し、エンタープライズ境界セキュリティにフィジカルAIを導入します。自律的な境界パトロールとエージェント型AI分析を組み合わせることで、ネットワークエッジセキュリティの強化を目指します。
オープンテキストの調査によると、日本企業の生成AI導入率は80%と世界平均を大幅に上回る一方、AI投資の費用対効果を実証できる企業は35%に留まっています。この結果は、AI導入後の効果測定体制の強化が日本の企業にとって喫緊の課題であることを示唆しています。
話題のAIエージェントツール「OpenClaw」に重大な脆弱性が発見されました。この脆弱性により、攻撃者はユーザーの認証なしに管理者権限を密かに取得できる可能性があり、ツールを利用するユーザーのセキュリティに対する懸念を一層高めています。
AIが「意思決定し行動する主体」へと進化する中、企業セキュリティは追いついておらず、暴走や乗っ取りといった新たなリスクに直面している。従来の対策では対応できないAIエージェント特有のリスクと、その本質について解説する。
ClaudeのChrome拡張機能に、「ShadowPrompt」というAI不正操作の脆弱性が発見されました。これは設計上の不備とXSS攻撃が組み合わさったもので、閲覧しただけでAIが乗っ取られる可能性があります。
Ringが新しいアプリストアを導入し、AIを活用して提供サービスを拡大します。これにより、従来のホームセキュリティだけでなく、高齢者介護やビジネスニーズなど、より幅広い用途に対応できるようになる見込みです。Ringは、多様な顧客層へのアプローチを目指しています。
Conntourは、AIモデルを活用してセキュリティチームが自然言語でカメラ映像を検索できるシステムを開発しています。これにより、特定の物体、人物、または状況を簡単に特定できるようになります。
データAI企業Databricksは、最近の50億ドルの資金調達により潤沢な資金力を背景に、AIセキュリティ製品の基盤を強化するため、AntimatterとSiftD.aiの2社のスタートアップを買収しました。同社は今後もさらなる買収を検討しています。
AIの導入における最大の障壁はセキュリティリスクであり、データに基づいたAIの価値向上には、モデル構築やトレーニングにおけるセキュリティ対策が不可欠です。特に、量子コンピューティングの脅威が高まる未来に向けて、AIシステムのセキュリティ強化が急務とされています。
先週、Meta社でAIエージェントが不正確な技術アドバイスを与えたため、従業員が約2時間にわたり会社およびユーザーデータに無許可アクセスする事態が発生しました。Metaの広報担当者は、このインシデント中にユーザーデータが誤って処理されることはなかったと述べています。
Linux Foundationは、Anthropic、AWS、GitHub、Google、Google DeepMind、Microsoft、OpenAIから総額1250万ドル（約20億円）の助成金を受領した。この資金は、「Alpha-Omega」等を通じ、AIによる脆弱性報告の急増に直面するオープンソース保守担当者の支援に充てられる。
Nvidiaは、人気のOpenClawを基盤とした、オープンな企業向けAIエージェントプラットフォーム「NemoClaw」を発表しました。
Googleは、クラウド・AIセキュリティ企業Wizを320億ドルで買収完了した。WizはGoogle Cloud部門に統合されるが、ブランドは維持され、マルチクラウド環境へのサービス提供も継続する。Wizの専門知識とGoogleのAI技術を融合させ、サイバー攻撃への対応迅速化と運用コスト削減を目指す。
AIによる議事録作成が進む中、情報漏洩や誤認識のリスクが懸念され、企業はセキュリティ対策を重視している。この記事では、AI議事録活用におけるこうした不安を解消するため、情報漏洩リスクを最小限に抑える具体的な対策が紹介されている。
ヴイエムウェアが「VMware Cloud Foundation（VCF）9.1」を発表した。AIワークロード増加とインフラコスト高騰に対応するため、モダンプライベートクラウドの機能を大幅に強化している。
企業がAI導入を急ぐ一方で、AI特有のスキル不足やサイバーセキュリティの脅威が拡大しています。組織がAIワークロードの脆弱性にどう備え、対策すべきかが問われています。
AnthropicのAI「Claude Mythos Preview」がOSSの脆弱性を大量発見したが、人間の確認が追いつかないという課題を報告。AIによる効率化と、人間の管理能力のギャップを指摘する。
Anthropicは、開発者向けツールである「Claude Code」用の公式プラグイン「security-guidance plugin」を公開しました。このプラグインの導入により、コーディング時のセキュリティ指針やリスク管理が強化されます。
生成AIの活用がビジネス現場で浸透している現状を概説。ChatGPTやGemini、ClaudeなどのクラウドLLMが、ブラウザ経由で手軽かつ最新モデルを利用できる利便性を挙げ、企業における日常業務への導入メリットをまとめる。
AIモデルの進化で脆弱性発見の速度が向上する一方、防御側の対応が追いつかない現状を指摘。脆弱性レポートを出すだけでは不十分な時代において、防御側が取るべき対策や課題を考察する。
『開発効率をアップする！ Claude Code 実用入門』の著者、大澤文孝氏を招いた無料ウェビナーが開催決定。Claude Codeの安全な運用方法と実務での活用テクニックを学べる。
AIコーディングエージェントに対する新攻撃手法「GuardFall」の報告。シェルテクニックを悪用しガードレールを回避する本手法について、サプライチェーン攻撃のリスクとともに解説する。
ソフトバンクとSB OAI Japanは、OpenAIの技術を活用したサイバーセキュリティー対策ソリューション「Patching as a Service」の本格提供を開始しました。対象企業を3,000社へ拡大します。
ソフトバンクの孫正義氏と宮川潤一氏が「SoftBank World 2026」に登壇。サイバーセキュリティソリューション「Patching as a Service」の最新状況を紹介した。
Sakana AIがサイバーセキュリティ特化のオーケストレーションモデル「Fugu-Cyber」を発表。申請承認制でトークン従量課金にて提供されます。
Googleが発表したセキュリティ特化のAI「Gemini 3.5 Flash Cyber」を解説。脆弱性の検出・修正に特化したモデルで、ChromeやAndroidの防御に使用されているが、悪用懸念から一般公開は制限されている。
GoogleはGeminiの新モデル3種を発表した。エージェント運用の効率・速度を重視した「3.6 Flash」および「3.5 Flash-Lite」、そして軽量性を活かしてサイバーセキュリティに特化した「3.5 Flash Cyber」を投入し、用途に応じた最適化を図る。
Accomplishが公開した、Claude Coworkの脆弱性「SharedRoot」についての報告。Linuxサンドボックスを脱出し、ホストOSのmacOSファイルを操作できてしまう内容。
Microsoftは、脆弱性発見に優れた自社開発モデル「MAI-Cyber-1-Flash」を、エージェント型スキャンハーネス「MDASH」に統合したと発表しました。
EY Japanがグローバルサイバーセキュリティ調査レポートの説明会を開催した。「EYグローバル・サイバーセキュリティ・リーダーシップ・インサイト調査2026」に基づき現状を解説した。
セキュリティ企業のNovee Securityは、OpenAIやAnthropic、Googleのコーディングエージェントに重大な脆弱性を発見しました。これらはリモートコード実行や認証情報窃取のリスクを孕んでおり、サプライチェーンへの悪影響も懸念されています。
AppleがAI技術の普及による脆弱性報告の急増を受け、バグ報奨金制度の運用ルールを変更しました。AIによる脆弱性検出の効率化が報告件数の増加を招き、審査や支払いの負担が拡大したため、研究者ごとの報告件数上限設定などの対策を講じ、制度の健全な運用と審査効率の維持を目指しています。
Web会議サービス「Zoom」の注釈機能に脆弱性が発見された。AIを活用して脆弱性を特定した事例で、リモートコード実行やサービス拒否攻撃の恐れがある。ベンダー側はすでにパッチを提供済みである。
7月30日から8月5日の間に40件のWordPress関連脆弱性が報告された。AI EngineやLoco Translateなどの人気プラグインでも、管理者権限の乗っ取りやPHPコード実行といった危険性の高い脆弱性が確認されており、対策が急務である。