AI TOPIC HUB

AIセキュリティ・脆弱性

AIモデル・拡張機能の脆弱性やセキュリティ事故まとめ。新着から過去の経緯まで、国内外の情報を時系列で確認できます。

711全記事
26過去7日
463国内
248海外
91入門向け

AIセキュリティ・脆弱性の現在地

AI Brief はAIセキュリティ・脆弱性に関する記事を通算 711 本収集しています。直近30日では 125 本(週あたり約 29.2 本)が追加され、 内訳は国内 463 本・海外 248 本、うち入門向けが 91 本です。 直近90日にこのトピックを最も多く取り上げているのは The Register Hardware(57本)、Zenn AI(44本)、Zenn LLM(33本)、ASCII.jp(29本)です。 収集済みの最新記事は 2026-11-21 付です。

上の数値は AI Brief が実際に収集した記事の集計で、推定値は含みません。 本数は収集対象メディアの範囲に依存します。

入門から読む

最新ニュース

711件を新着順に表示
プロンプトインジェクション対策!判定モデルの作り方と活用術
Zenn LLM 中級 1日前
LLMへのプロンプトインジェクション対策として、日本語と英語の入力を判定する軽量モデル「ja-injection-guard-v1」を開発。Hugging Faceで公開し、多層防御の第一歩としての活用を提案。
AIが自動でサーバーを攻撃?大学で起きた脅威の全容
The Register Hardware 上級 🌐 2日前
中国の攻撃者がAIエージェントを活用し、大学のサーバーに対して自律的なサイバー攻撃を実行した。このエージェントは人間の指示なしに24時間近く適応を続け、ゼロデイ脆弱性を発見してシステムを乗っ取ったことが、AmazonのCISOによって報告された。AIが自動攻撃を行う新たな脅威が浮き彫りとなっている。
冷蔵庫がハッキング?英国政府が実施したサイバー対策
Tom's Hardware 中級 🌐 2日前
欧州で冷蔵庫の温度を強制的に50度に上げ、食料を台無しにする攻撃が発生しました。これを受け英国政府は、同様の攻撃を防ぐため、脆弱な冷蔵庫を一斉に修正する極秘のパッチ対応プログラムを実施しました。
生成AIが悪用される5つの手口とは?ESETが警告
ITmedia AIビジネス 上級 2日前
ESETが生成AIの脅威を分析し、今後2年間でサイバー攻撃の頻度と強度が増すと警告しました。ランサムウェア構築やプロンプトインジェクションなど5つの悪用手口を解説しています。
プロンプトインジェクションとは?Web記事要約時のリスクを解説
Zenn LLM 中級 2日前
AIにWeb記事の要約やツール作成を依頼する際、参照元のページに悪意ある指示が埋め込まれている「プロンプトインジェクション」のリスクを解説。主要なAIサービスでは無視される傾向にあるが、仕組みを理解しておく重要性を説く。
ExaUとは?AIエージェント構築の新機能が提供開始
ASCII.jp 中級 2日前
Exaforce株式会社は、セキュリティー担当者が独自のAIエージェントチームを構築・運用できる新機能「ExaU」の提供を開始した。同社のプラットフォームの標準機能として追加される。
MetaのAI「Muse」に懸念、プライバシー情報の漏洩リスク
TechCrunch AI 中級 🌐 3日前
MetaのAIエージェント「Muse」において、ユーザーのプライバシー侵害や会話の混在が報告されています。身に覚えのない請求や他人の銀行口座情報が表示されるなどの不具合が従業員から指摘されました。
話題のアプリMuseを徹底検証!機能と安全設計の真実
Zenn AI 中級 3日前
話題のアプリ「Muse」を2週間使用した感想と、公式発表に基づく内部構造と安全性のまとめ。Metaのプロダクトであるという先入観を覆す人気と、その機能的な革命性について技術的な側面からレビューする。
Javaの重大脆弱性とは?数百万のサイトに影響するリスク
Tom's Hardware 中級 🌐 3日前
広く普及しているJavaソフトウェアに、深刻な脆弱性が発見された。これにより、世界中の数百万ものサイトやデバイスが遠隔コード実行のリスクにさらされている。攻撃者は特定のテキストを入力するだけでこのバグを突くことが可能だ。早急なアップデートの必要性と、企業が直面しているリスクの規模について解説する。
Dell PowerMaxの性能とAI機能が強化!最新アップデートまとめ
ASCII.jp 中級 3日前
デル・テクノロジーズがストレージ製品「Dell PowerMax」を強化。パフォーマンスの向上に加え、セキュリティー対策の拡充、およびAI主導による運用機能の強化を行い、企業データの保護と効率的な活用を推進します。
重要インフラは修正不能?ナデラCEOが語るAIの脅威
TechCrunch AI 上級 🌐 3日前
Microsoftのサティア・ナデラCEOは、Outlookの障害に言及しつつ、AIがもたらす機会とセキュリティ上の課題について警告した。特に、現在接続されている世界中の重要インフラの多くが修正不可能な状態にあると指摘。デジタル化が進む社会で直面する新たな脅威と、テクノロジー企業のリーダーが抱く危機感を共有する。
AIが発見した脆弱性、修正状況は?調査レポート
GIGAZINE 上級 3日前
Anthropicの「Claude Mythos Preview」が発見した数千件の脆弱性について、セキュリティ企業VulnCheckが7カ月後の修正状況を調査・報告した。
NGINXで深刻なバグ発見!2億サイトに影響の恐れ
The Register Hardware 上級 🌐 4日前
広く利用されているオープンソース技術「NGINX」において、深刻なバグが発見されました。世界中の数億のWebサイトに影響を及ぼす可能性があり、管理者は早急なパッチ適用が求められています。
OpenJDKの脆弱性「Java4Shell」の対策と影響
GIGAZINE 上級 4日前
OpenJDKに重大な脆弱性「Java4Shell」が発見されました。攻撃者は機密情報の窃取やコード実行が可能になります。AI「Codex」による発見という点も注目されています。
コーディングエージェントの脆弱性対策
Zenn LLM 上級 4日前
コーディングエージェントが脆弱性を生むメカニズムを解説。既存の脆弱なコードを模倣してしまう原因と、それに対する具体的なセキュリティ対策を紹介します。
間接プロンプトインジェクション対策7選
Zenn LLM 中級 4日前
間接プロンプトインジェクションへの対策を整理。第三者が書いた内容を扱うアプリケーションで、セキュリティを確保するための7つのルールを解説します。
冷蔵庫が危ない?IoT機器の脆弱性を見つける方法
The Register Hardware 上級 🌐 5日前
Danfoss製冷蔵庫のコントローラーから、わずか1時間で6つのゼロデイ脆弱性が発見されました。認証機能の欠陥や基本的な防御策の欠如が指摘されており、IoT機器のセキュリティの甘さが浮き彫りになっています。
AIのCormaが評価額10億ドルへ!創業3ヶ月の急成長
TechCrunch AI 中級 🌐 5日前
製品発表からわずか3ヶ月のAIサイバーセキュリティスタートアップ、CormaがNEA主導のシリーズAラウンドで1億2500万ドルを調達しました。同社の企業評価額は10億ドル(ユニコーン企業)に達し、急速な成長が注目されています。
Linuxの重大脆弱性「NoisyTCP」とは?11年越しの欠陥
The Register Hardware 上級 🌐 6日前
11年前から存在していたLinuxサーバーの脆弱性「NoisyTCP」が報告されました。コンテナ内で実行されているサービスであっても、ホストシステム全体をクラッシュさせることが可能です。
UbuntuがAI生成のセキュリティ修正を先行提供!内容とは
The Register Hardware 中級 🌐 6日前
UbuntuがProサブスクリプションユーザー向けに、AIが生成したセキュリティ修正を先行公開しました。通常の検証済みアップデートとは異なり、早期アクセスを希望するユーザー向けの実験的取り組みです。
AI時代のコードセキュリティ:脆弱性への新対策
The Register Hardware 中級 🌐 6日前
AIエージェントの普及により、コードの脆弱性が発見・悪用されやすくなっています。ソフトウェアエンジニアリングやアプリセキュリティのチームは、これまでとは異なる新しい手法で脆弱性を検知・修正する必要があります。
AIがパッチを攻撃コードに?Googleの衝撃的報告
The Register Hardware 上級 🌐 6日前
Googleは、AIエージェントがセキュリティパッチを分析し、人間が一切関与することなく、それを悪用可能な攻撃コードへと書き換えた事例を報告しました。AIによる自律的な脆弱性利用の危険性が浮き彫りになっています。
ロボット工学の脆弱性:2日で28件のゼロデイ発見
IEEE Spectrum 上級 🌐 6日前
VicOneは、AIを活用した研究により、ロボット開発や運用のエコシステムにおいて28件のゼロデイ脆弱性を短期間で発見しました。GoogleやNVIDIAなどの主要企業が関与するツールも対象となっており、AIモデルの安全性やテスト結果の信頼性に対する懸念が浮き彫りとなっています。
CoWorker AI Harnessとは?AI利用のセキュリティリスク対策
ASCII.jp 入門 6日前
CoWorker株式会社が、PCやサーバーに導入することでAI利用時のセキュリティリスクを低減する端末常駐型セキュリティー製品「CoWorker AI Harness」の提供を開始しました。
Fireworks AI事件の全貌と影響範囲を徹底調査
Zenn AI 中級 2026年11月15日
Fireworks AIで発生したセキュリティインシデントの影響範囲を調査。2回の侵入事例や評価ジョブ、鍵情報の漏洩など、事件の全体像と個人レベルでの対応についてまとめたメモ。
NVIDIAのセキュリティに何が?CEO退任と機密漏洩の背景
TechCrunch AI 中級 🌐 2026年11月15日
NVIDIAのセキュリティ責任者が8月に退任し、CEOのジェンスン・フアン氏も不適切な関係疑惑を理由に退任しました。元情報機関の専門家は、こうした機密漏洩リスクは通常の企業セキュリティ体制では検知が困難であると指摘しており、同社の管理体制に懸念が広がっています。
ツリーベルが導入した最新AI顔認証システムとは
ASCII.jp 入門 2026年11月14日
株式会社ツリーベルは麹町移転に伴い、AI顔認証セキュリティシステム「FE500」および「KJ3400」を導入し、オフィスセキュリティを強化しました。
Windowsの脆弱性「SignDrop」とは?システム権限を奪取される危険性
Ars Technica AI 上級 🌐 2026年11月13日
「SignDrop」と呼ばれるWindowsの脆弱性が発覚。ローカルユーザーがシステムの最高権限である「System」権限を容易に取得できてしまう深刻な欠陥について解説しています。
脆弱性収集AIの限界とは?プロンプト検証で分かった事実
Zenn LLM 上級 2026年11月13日
脆弱性情報の自動収集プロンプトの試験結果報告。沈黙を信用しない設計で検証を行ったが、結果的に「該当なし」だけでなく「取得OK」という報告すらも盲信できないという運用上の教訓を得た記録。
プロンプトインジェクションとは?IBMの新手法LLMON
Zenn LLM 中級 2026年11月13日
プロンプトインジェクション問題に対し、IBMが発表した新手法「LLMON」について解説。AIエージェントが外部テキストを読み込む機会が増える中、悪意ある指示を回避する仕組みや背景を整理します。
ComfyUI拡張機能に脆弱性?1.4.1以前の使用は注意
ASCII.jp 上級 2026年11月13日
米CERT/CCは、生成AIツール「ComfyUI」の拡張機能「ComfyUI-Easy-Use」1.4.1以前のバージョンに脆弱性があると発表しました。
ローカルLLM活用!Webサイト用総合セキュリティパッケージとは
ASCII.jp 中級 2026年11月13日
Webサイトやサーバーのセキュリティを強化する「総合セキュリティパッケージ」の販売が開始されました。ローカルLLMを活用することで、高度な保護を実現する最新のセキュリティソリューションです。
OpenAIが新セキュリティ製品発表、導入不可欠の理由とは?
The Register Hardware 中級 🌐 2026年11月12日
OpenAIが新たなセキュリティ製品をリリースしました。同社はAIを活用したサイバー攻撃の脅威が増大している背景から、組織に対してこれらのツールの導入を強く推奨しています。一方で、AIがサイバー攻撃を助長しているとして、非営利団体グループがAI企業を提訴する動きもあり、AIの安全性とリスク管理を巡る議論が激化しています。
Windows 11月更新で不具合発生|印刷停止や認証失敗の対処法
The Register Hardware 中級 🌐 2026年11月12日
Microsoftが公開した11月のWindowsセキュリティアップデートにおいて、複数の不具合が報告されています。ゼロサイズ画像により印刷プロセスが停止する問題や、システム管理者が直面するライセンス認証の失敗などが確認されており、ユーザーや管理者にとって大きな影響が出ています。
ASCII.jp 中級 2026年11月12日
Netskopeの調査により、製造業におけるAI関連のセキュリティ違反の83%がデータポリシー違反であることが判明しました。機密情報の取り扱いに注意が必要です。
Claude Enterpriseのセキュリティ管理機能まとめ
ITmedia AI+ 中級 2026年11月11日
Anthropicが「Claude Enterprise」の管理機能を強化しました。設定一覧化、DLP連携、個人アカウント遮断などの新機能により、企業のAI統制とシャドーIT対策を支援します。
AIによる脆弱性修正の可能性とは?OpenAIの最新発表を解説
Zenn AI 上級 2026年11月11日
OpenAIが発表した脆弱性修正の自動化技術について。Linuxカーネルの脆弱性948件に対して修正案を作成しましたが、適用には開発者の確認が必須です。自動化が進む中、利用者には迅速なアップデートが推奨されます。
Ringの新作ロボットまとめ:ドローンと移動式カメラ
GIGAZINE 入門 2026年11月11日
Amazon傘下のRingが家庭用ロボット「Ring Robotics」を発表しました。屋内用ドローンの「Ring Drone Cam」と、移動式ロボットの「Ring Rover Cam」が登場し、セキュリティの幅を広げます。
AI時代のセキュリティとは?インシデント増加の背景を考察
Zenn LLM 入門 2026年11月11日
近年のセキュリティインシデント増加を背景に、攻撃側・防御側の双方でAIが活用されている現状を考察するコラム。技術的な解説ではなく、AI時代における攻防の共通点や将来の展望について、酒の席での空想という形式で著者なりの見解を展開する。
11月のMSパッチ:1,000件超の脆弱性修正に注意
The Register Hardware 中級 🌐 2026年11月10日
マイクロソフトの11月の定例アップデートでは、1,000件を超えるバグが修正されました。ゼロデイ脆弱性は1件のみですが、膨大な数のパッチ適用にシステム管理者は追われています。
Microsoft 11月パッチ:1000件の脆弱性を修正
The Register Hardware 中級 🌐 2026年11月10日
Microsoftの11月月例パッチが公開され、1,000件を超える脆弱性が修正されました。そのうち1件は既に攻撃に悪用されており、管理者に迅速な対応が求められています。
Barracuda製品の脆弱性にご注意。ルート権限リスク
The Register Hardware 上級 🌐 2026年11月10日
Barracudaのメールセキュリティゲートウェイで、管理者権限を取得可能な脆弱性が発見されました。露出しているデバイスが攻撃者の標的となっており、早急な対策が必要です。
Fireworks AIで再びデータ漏洩が発生
The Register Hardware 中級 🌐 2026年11月10日
AI推論プラットフォームを提供するFireworks AIが再びデータ流出に見舞われました。同社は今回の漏洩の原因を、クラウドプロバイダーの脆弱性とLLMJackingを実行する悪意のある攻撃者によるものとしています。
Ringからセキュリティドローンと警備ロボットが登場
TechCrunch AI 入門 🌐 2026年11月10日
Amazon傘下のRingが、ホームセキュリティ領域を拡大。住宅用の屋内セキュリティドローンに加え、企業向けの巡回警備ロボットを新たに投入し、物理的な警備自動化に向けたロボティクス市場へ本格参入します。
車が遠隔操作される?大手自動車2社の脆弱性まとめ
Tom's Hardware 上級 🌐 2026年11月10日
主要な自動車メーカー2社において、インターネット接続された車両が遠隔操作で解錠・始動される脆弱性が発見されました。バックエンドAPIのセキュリティ不備が原因であり、基本的なセキュリティ対策が欠如していた実態が浮き彫りとなっています。
LLMアプリの脆弱性診断!Semgrepルール集でセキュリティ対策
Zenn AI 上級 2026年11月10日
LLMアプリのコード内に潜む脆弱性を自動で指摘するSemgrepルール集「semgrep-llm-security」を紹介。LLMのセキュリティはモデルよりもその周辺の境界コードに出るという視点から解説する。
ソラコム、IoT・フィジカルAI向けセキュリティ診断を開始
ASCII.jp 中級 2026年11月10日
ソラコムは11月10日、IoTやフィジカルAIを対象としたセキュリティ診断・堅牢化サービスを開始しました。脆弱性の診断から対策の設計、実装、再検証までをワンストップでサポートします。利用料金は個別見積もりです。
AIエージェントとゼロトラスト:セキュリティの課題とは?
IEEE Spectrum 上級 🌐 2026年11月09日
AIエージェントによるタスクフォースが活用される中、そのセキュリティが課題となっている。エージェントが過去の履歴に基づいて判断を偏らせないよう、履歴削除のチェックポイントが重要だが、将来のプロンプトで削除情報が復元されるリスクも指摘されている。
Azure Linuxで470超の脆弱性を修正:パッチの全貌
The Register Hardware 上級 🌐 2026年11月09日
MicrosoftはAzure Linuxに対して、470件を超えるセキュリティ修正を含む大規模なパッチ適用を実施した。多数のCVE対応や証明書のクリーンアップなどが含まれており、パッチ適用チームの多忙さが伺える。
車の時計合わせに脱獄?セキュリティ研究者が行った秘策とは
Tom's Hardware 上級 🌐 2026年11月09日
自動車のインフォテインメントシステムの時計を合わせるため、セキュリティ研究者がリバースエンジニアリングを用いて車の「脱獄(ジェイルブレイク)」を行いました。メーカーの制限を回避し、時間を修正した手法が注目されています。