AI TOPIC HUB
AIセキュリティ・脆弱性
AIモデル・拡張機能の脆弱性やセキュリティ事故まとめ。新着から過去の経緯まで、国内外の情報を時系列で確認できます。
496全記事
9過去7日
320国内
176海外
67入門向け
AIセキュリティ・脆弱性の現在地
AI Brief はAIセキュリティ・脆弱性に関する記事を通算 496 本収集しています。直近30日では 60 本（週あたり約 14.0 本）が追加され、 内訳は国内 320 本・海外 176 本、うち入門向けが 67 本です。 直近90日にこのトピックを最も多く取り上げているのは The Register Hardware（49本）、Zenn AI（37本）、ASCII.jp（17本）、Zenn LLM（17本）です。 収集済みの最新記事は 2026-10-01 付です。
上の数値は AI Brief が実際に収集した記事の集計で、推定値は含みません。 本数は収集対象メディアの範囲に依存します。
入門から読む
最新ニュース
496件を新着順に表示
Microsoftは、既存の競合プラットフォームよりも高性能で低コストなAIセキュリティツールを公開しました。AI環境の脅威が増大する中、より効率的な防御策として市場シェアの拡大を狙います。
Microsoftが提示したAIセキュリティ戦略には、新たなAIツールと複雑な専門用語が詰め込まれています。同社のMDASHや新型モデルが、実際にどのようなセキュリティ上の利点をもたらすのかを批評します。
MicrosoftはAIを活用したサイバーセキュリティ製品を強化しました。同社初となるセキュリティ専用のAIモデルと、エージェント型セキュリティプラットフォームを新たに投入し、防御能力の向上を目指します。
NvidiaやMicrosoftらが、オープンソースのAIセキュリティツール開発を目指す「Open Secure AI Alliance」を立ち上げました。OpenAIやGoogleなどは参加しておらず、AIの安全性向上に向けた業界内の陣営対立と方針の違いが浮き彫りになっています。
生成AIの普及により学校のレポート課題が形骸化するという懸念に対し、教師側もAIを活用することで、双方がAIを前提とした新しい教育・評価手法へシフトする必要性を提唱する。
人間がコードを読まない「開発エージェント基盤」におけるセキュリティ課題の考察。コードレビューが存在しない環境で、人間が関与せず設計・実装まで完走させるシステムにおける安全性の担保について議論する。
自社AIエージェント導入に伴うセキュリティリスクについて、具体的な事例を交えながら、適切な管理体制や運用ルール、実践的な対策手法を分かりやすく解説する。
AIエージェント導入時の失敗事例を解説。セキュリティ事故やコスト超過など、具体的なリスク要因に触れつつ、AI運用において懸念されるトラブルを回避するための注意点と対策をまとめています。
バチカン関連の祈り用アプリに認証機能の欠如という致命的な脆弱性が判明しました。少なくとも6カ月以上放置され、ユーザーの氏名や誕生日などの個人情報が流出し続けていた問題について報告します。
GeminiによるSaaSアプリ自動生成パイプラインで発生した脆弱性問題を検証。プロンプトによりマスターキーなどの脆弱性がテンプレート化して複製されるリスクと、その教訓を記録する。
業務でのAI活用に伴うセキュリティ対策が情シスの課題となっています。ソフトクリエイトが実施した418名のアンケート結果から、現在のセキュリティ意識を解説します。
AI企業のガードレールが、脆弱性調査や攻撃ツール開発を行うサイバーセキュリティ研究者の業務にどのような悪影響を及ぼしているかを専門家へのインタビューから解説します。
サンフランシスコで開催された「Snowflake Summit 2026」の参加レポート。データエンジニアの視点から、最新のセッション内容や世界中のデータプロフェッショナルから得た知見を共有します。
AIモデルKimi K3の急速な性能向上に関し、Anthropicの「Fable」を蒸留（模倣）しただけではないかとの疑惑が浮上。専門家は、単なる蒸留手法だけでこれほど強力なモデルを短期間で構築することは困難であると否定的な見解を示しています。
脆弱性判定におけるLLM活用の是非。9割正確でも1割間違えるLLMの限界を指摘し、自動化すべきは判定ではなく材料準備であるという結論と、決定論的コードの活用を推奨する。
BoxがAIエージェントの制御に向けた新たなセキュリティ・ガバナンス機能を発表。自社開発エージェントに加え、ClaudeやChatGPT、Geminiなどの外部AIにも適用可能です。
Linuxカーネルのメンテナーチームが、わずか2日間で432件ものCVE（脆弱性情報）を一挙に公開しました。この急激な報告増加について、業界内ではAIによる自動化されたバグ検出ツールが関与しているのではないかと推測されています。
AIエージェントや開発者ツールの急速な導入に伴い、企業が直面する新たなエンドポイントのリスクに対応するセキュリティ企業「Glow」が、12億ドルの評価額でステルスを終了しました。AI時代特有の脅威に対抗することを目指します。
Ciscoがソースコード内の脆弱性を特定する小規模言語モデル群「Antares」を発表。低リソースで動作し、クラウドへのコード転送なしで機密性の高い分析が可能です。
Broadcomの調査により、企業がクラウド利用に「無駄」を感じていることが判明しました。多くの企業がAIの活用を背景に、パブリッククラウドからオンプレミス環境へ回帰する動きが加速しており、コストと効率の最適化がインフラ戦略の重要課題となっています。
Googleは、脆弱性の発見と修正を高速化する新たなAIセキュリティモデル「Gemini 3.5 Flash Cyber」を発表しました。これはAnthropicのMythosといった高コストな大規模モデルに対し、高い性能を維持しつつコスト効率を向上させた代替手段として提供されます。
WordPressの重大な脆弱性が悪用され、攻撃が活発化しています。公開されている概念実証（PoC）コードが多数存在するため、サイト運営者は早急な対策が必要です。システムの安全性確保に向けた現状の脅威とリスクについて解説します。
「Have I Been Pwned」によると、ポイ活サービス「Paidwork」のデータベースが流出しました。流出した情報には銀行口座番号、支払い履歴、個人情報が含まれており、利用者は早急な対策が必要です。
チャットAIエージェントにおけるプロンプトインジェクション対策を解説。指示とデータが混在するチャット環境において、外部からの悪意ある入力から守るための実装上の注意点と防御手法を提案する。
プロンプトインジェクションはゼロにできません。ユーザー入力や外部文書をそのまま連結するリスクを警告し、入力内容がsystemプロンプトを上書きする危険性を指摘。防御を前提としたLLMアプリ設計の重要性を説きます。
Shark製ロボット掃除機に、AWS IoTポリシーの不備に起因する深刻な脆弱性が判明しました。盗まれた証明書を使用して、同一リージョン内の他ユーザーのデバイスでroot権限でのコマンド実行が可能です。これにより、ライブカメラ映像の閲覧、保存された間取り図の取得、Wi-Fi認証情報の漏洩などのリスクがあります。現時点でパッチは提供されておらず、プライバシー保護の観点から早急な対応が求められる状況で
韓国が国家主権とセキュリティを守るため、独自のローカルLLMプロジェクトを推進。海外モデルに対抗し、将来的にはMythosなどの高水準モデルを目指す意向です。
AIエージェントへの権限付与が進む一方で、セキュリティ制御が追いついていない現状が浮き彫りになりました。半数以上の企業がセキュリティ事故を経験しており、認証情報の共有やエージェントの隔離管理に課題を抱えています。
Microsoftの月例セキュリティアップデート「パッチチューズデー」にて、AIを活用した脆弱性検知により、過去最多となる570件のセキュリティ問題が解決された。
CISA（米国土安全保障省サイバーセキュリティ・インフラストラクチャセキュリティ庁）が、SharePointの3つの脆弱性が積極的に悪用されていると警告。さらに2つの重大な脆弱性についても警戒を呼びかけている。
LLMを用いたスキルの自動最適化ループにおいて、検証器（採点者）の質が性能に直結する問題を解説。不適切な検証器では性能が劣化し「検証器を喜ばせる」方向へ最適化されるリスクを指摘する。
プログラミング知識ゼロのチームがクラウドAIの支援のみでローカルAI環境を構築する記録シリーズ第3巻。セキュリティ強化、バックアップ体制、日本語モデル切替の実装過程を収録。まだ日本語会話には課題が残る段階。
MicrosoftのSecure Boot機能において、10年間放置されていた脆弱性が発見されました。修正されずに放置されていた古い「Shim（シム）」を悪用することで、セキュリティ回避が可能であることが判明しました。
研究者がLLMの安全性を回避し、危険な指示を引き出す体系的な脆弱性を発見しました。主要なモデルすべてに影響する業界規模の問題であり、AIの社会実装にはさらなる透明性と調査が不可欠だと提言されています。
プロンプトインジェクションへの誤解を正し、セキュリティ専門家ではなくAIユーザーの視点で、AIの乗っ取りを防ぐための正しい理解と対策を修正・記録する。
Progress社は、ShareFileサービスに対する未確認のセキュリティ上の脅威を受け、全サーバーの緊急停止を要請しました。不正アクセスの証拠は見つかっていませんが、万全を期して顧客に対してサーバーを直ちに停止するよう呼びかけています。
2026年Q2のAIサイバーセキュリティ領域におけるClaude Mythos Previewの役割を考察。Mozillaの脆弱性CVE-2026-12307を題材に、大規模リソース投下が行われる中で個人がAIを活用してメモリ破壊バグを調査する価値と手法を実例で解説する。
GitHub Issue駆動開発を軸にAIエージェントを導入する手法を解説。フルスクラッチ開発では有効な「AI丸投げ」も、インフラ・DB・環境構築などの複雑な実務領域では危険を伴うため、適切な管理が必要です。
Claude Codeが突然韓国語で謝罪し、存在しない脅威を主張した事例を検証。結論としてプロンプトインジェクションではなく、AI自身の幻覚によるものだと判明。
コペンハーゲンのファッション通販サイトMiintoがセキュリティ侵害を受け、注文管理システムが不正アクセスされました。同社は被害を認め、顧客に対してフィッシング詐欺に注意するよう呼びかけています。
AIが存在しないソフトウェアURLを「幻覚（ハルシネーション）」として生成する性質を悪用する新しい攻撃手法「HalluSquatting」が確認された。攻撃者はこれを使い、AIエージェントを誘導して悪意のあるコードを実行させる。
私的なAIエージェントを運用する中で経験した、Prompt Injectionによるセキュリティの教訓。モデル提供元だけでなく、ツールを呼び出せるAIを自ら動かす全員が、セキュリティの攻防の当事者であることを強調する。
セキュリティ企業Noma Labsが、AIエージェントを悪用する脆弱性「GitLost」を報告しました。GitHubのIssueを悪用して、認証なしで非公開リポジトリの情報漏洩を引き起こす危険な攻撃手法です。
Googleは、LinuxカーネルにおいてゲストVMから脱出可能な脆弱性に対し、25万ドルの報奨金を支払った。この脆弱性を突かれると、未承認のユーザーが管理者権限（root権限）を取得する恐れがある。
主要なAIコーディングエージェントで「GhostApproval」問題が発生。AIと人間の協働におけるセキュリティの盲点が、過去の技術的教訓を繰り返していることが判明しました。