AI TOPIC HUB
AIセキュリティ・脆弱性
AIモデル・拡張機能の脆弱性やセキュリティ事故まとめ。新着から過去の経緯まで、国内外の情報を時系列で確認できます。
398全記事
20過去7日
268国内
130海外
52入門向け
入門から読む
最新ニュース
398件を新着順に表示
AIセキュリティのCTF「Gandalf Adventure」の攻略記録。AIのガードレールを回避して特定の情報を引き出すプロセスや、翻訳ツールを活用した挑戦の様子を紹介。
CormaのCEOは、サイバー防御を統合し、犬の散歩中でも対応可能なほど効率的なAIセキュリティプラットフォームの構築を目指していると語った。防御側が圧倒的な力を持ち、複雑な攻撃を自動で遮断する「すべてを統べる指輪」のようなシステムの実現に意欲を見せている。
マルチモーダルAI「Qwen3.8-27B」のオープンウェイト公開について。コーディングからエージェントタスクまでをカバーし、画像・動画理解能力を備えた最新モデルの概要を紹介。
米コネチカット州の裁判で、自己弁護を行っていた原告がAIを利用したプロンプトインジェクション攻撃を試みました。提出書類にAIを操る隠し命令を混入させていましたが、書式の不自然さから露呈しました。
セキュリティ研究者が、コインサイズのデバイスをボーイング737の診断ポートに接続することで、機内のWi-Fi経由で飛行管理システムに不正なデータを送信できる脆弱性を発見しました。離陸重量の改ざんや進路変更さえ可能な深刻な脅威であり、航空安全に対する新たな懸念となっています。
Zoomの会議中に他人のデバイスを乗っ取れる脆弱性「Zoomsday」が発見されました。この脆弱性はAIを活用したわずか20個のプロンプトによって特定され、数百万人を危険に晒すものでした。
AI会議ツール「tl;dv」に、18万件以上の会議記録が流出する可能性がある重大な脆弱性が発見されました。報告から6カ月間修正されなかったと指摘されていますが、運営側は複数の攻撃経路があるため単一の修正では解決できないと説明しています。
総務省のAIガイドラインがあるものの、多くの企業でセキュリティ対策が十分に実行できていません。ChillStackの調査を通じ、AIセキュリティ導入の阻害要因を明らかにします。
資産管理台帳と実際のネットワーク接続台数の乖離に悩む「一人情シス」が、予算ゼロで取り組んだネットワーク可視化の事例。無料のSaaSとオープンソースツールを駆使し、社内Wi-Fiに潜む未知の端末を特定・管理するための実用的なアプローチを紹介する。
Claude MythosなどのフロンティアAIにより、脆弱性管理の常識が変化しています。深刻な脆弱性のみ対応する従来の手法は時代遅れになりつつあります。変化するセキュリティ環境下で、企業が今すぐ取り組むべき脆弱性管理の基本方針と対策の考え方を整理します。
投機的実行に関連する脆弱性「Spectre」の懸念が再燃しています。登場から8年が経過した現在も、特定のRISC-Vプロセッサにおいて投機的実行に起因するセキュリティ上のリスクが指摘されており、チップ設計における継続的な課題が浮き彫りとなっています。
OpenAIのセキュリティAI「Daybreak」において、「GPT-5.6 Cyber」やセーフガード未適用版のモデルが利用可能となりました。サイバーセキュリティ担当者の業務を支援するための機能拡充です。
AIはコード解析や異常検知を高度化し、従来ツールが見落としていた欠陥を発見します。特にゼロデイ脆弱性において、コンテナ構成や依存関係の管理を自動化することで、迅速な対応を可能にしようとしています。
セキュリティプラットフォームを提供するSaviyntが、ARR3億ドルを達成しました。あわせてエンタープライズ向けのAIアイデンティティ管理新製品「Zuma」を発表しました。
AIを悪用したサイバー攻撃が急増する中、OpenAIはサイバーセキュリティ防衛プログラム「Daybreak」を拡大し、セキュリティ特化型の新しいAIモデルを導入しました。
DEF CONのハッカーコミュニティが、水道インフラをサイバー攻撃から守るプロジェクトを推進。デジタルツイン技術とAIを駆使することで、物理的な重要インフラのセキュリティを強化する試みが始まっています。
GeForce NOWのゲーム実行ファイルを別のファイルに置換することで、本来制限されているWindowsデスクトップへアクセスする脆弱性が発見されました。高価なVRAM環境を悪用する行為にはアカウント停止のリスクが伴います。
機密情報を外部に出さずにセキュリティ監査を行うため、ローカルLLM「gpt-oss:20b」を活用したコード監査の実用性を検証するシリーズ最終回。
2026年3月に公開された「Databricks AI Security Framework (DASF)」を軸に、Agentic AIが抱えるセキュリティリスクを考察。人間が操作する従来のAI活用とは異なり、自動実行が前提となるため、設計段階から機密データアクセスやプロンプトインジェクションへの防御策が必要であると警告する。
AIコーディングツールを使用する開発者の間でセキュリティとプライバシーに対する懸念が高まっています。研究者がSNS上の意見を分析し、業界への要求を可視化しました。
OpenAIは、次世代モデル「Astra」の開発において、サイバーセキュリティ上の懸念から一部の作業を一時中断したと発表しました。強力なモデルのリスク管理を優先する姿勢を示しています。
N-ableの管理アクセス機能に脆弱性が発見され、攻撃者が顧客ネットワークへ侵入したことが判明。ベンダーは顧客に対し、度重なる修正パッチの適用を急ぐよう勧告している。
SREチームが取り組む、セキュリティチェックシート回答の自動化手法。エンタープライズ顧客対応で不可欠な事務作業をAIで効率化し、受注スピード向上と業務負荷軽減を実現する仕組みを解説します。
自律的なAIによるセキュリティの脆弱性修正を検証したところ、人の監督なしでは完全な修正に至らないケースが多いことが判明しました。AI任せの自動化にはまだ大きな課題が残されています。
Appleによる営業秘密侵害訴訟に対し、OpenAIはApple側の社内セキュリティ管理の甘さを指摘。元社員のiCloudアクセス許可などを根拠に反論を展開しています。
Anthropicは「Claude Tag」におけるエージェントアイデンティティーのアクセスモデルと、チームワークスペースでの設定に関するベストプラクティスを公開しました。
Atlassian Rovoに、悪意ある命令を含む文書から社内データを外部送信させる脆弱性が発見されました。管理者設定でも攻撃を完全に防ぐことは困難です。
LLMのハルシネーション（もっともらしい嘘）を、品質問題ではなくセキュリティリスク「LLM09:2025 Misinformation」として定義。なぜこれが被害につながるのか、OWASP Top 10の視点から解説し、対策を提示する。
チェック・ポイント社の研究者が企業向けのAIエージェント開発フレームワークを検証した結果、設計上の深刻な脆弱性が判明。ブラックハット会議でその詳細が公表され、開発環境自体の安全性が再考されている。
米JFrogの検証により、SQLiteの脆弱性情報としてNVD等に登録されていたCVEが、AI生成による偽物であったことが判明した。同一アカウントによる55件中54件が捏造で、CVE登録プロセスの脆弱性が浮き彫りになった。
N-centralコンソールで管理者権限が乗っ取られる深刻な脆弱性が発見された。悪用が確認されており、専門家は緊急パッチの適用を強く警告している。
2026年5月19日に名古屋で開催された「情シス Update Day 2026」のレポート記事。AI動向やセキュリティ対策をテーマにしたセッションの模様や、相談ブースの様子を写真とともに振り返ります。
米国立標準技術研究所（NIST）の処理遅延に乗じ、AIが生成した架空の脆弱性レポートがCVEデータベースに大量投稿されています。セキュリティ情報の信頼性が揺らいでいます。
USENIX Security 2025掲載の論文「StruQ」を紹介。データと命令を分離する構造化クエリを用いることで、利便性を損なわずにプロンプトインジェクションを防ぐ仕組みを論じる。
株式会社ACESが提供するAI議事録ツール「ACES Meet」が、クラウドセキュリティ認証「ISO/IEC 27017」を取得しました。高いセキュリティ基準を備えています。
OpenAIの論文「The Instruction Hierarchy」に基づき、LLMにおけるシステムプロンプトとユーザー入力を区別する重要性を解説。OSのセキュリティモデルを比喩に、インジェクション攻撃への対策を説く。
AIによる攻撃自動化に対し、Microsoftは新たなセキュリティ基盤「Project Perception」を発表しました。AIエージェントが分担して監視・対処を行う仕組みと、Mythos超えのモデル性能に迫ります。
GMO Flatt Securityは、プラットフォーム「Takumi byGMO」にて新機能「Takumi Images」の提供を開始。脆弱性パッチ適用とサプライチェーン攻撃対策を同時に実現する機能で、開発の安全性を強化する。
AgentDojoは、外部ツールを操作するLLMエージェントの安全性と実用性を評価するためのベンチマークです。信頼できないデータ環境下でのプロンプトインジェクション耐性とタスク遂行能力を動的かつステートフルな指標で測定し、エージェントの信頼性を科学的に検証可能にします。
AnthropicのAI「Claude」が、セキュリティ能力試験の一環として実在する3社へのハッキングに成功しました。インターネットアクセスを許可された環境で、企業の脆弱性を突いてAIが自律的に侵入した事実は衝撃を与えています。
GoogleはChromeのセキュリティにGeminiを活用。13年間放置された脆弱性を発見するなどの成果を上げています。攻撃の高速化に対抗するため、今後はセキュリティアップデートを週2回配信する試みを開始しました。
Oktaはアイデンティティ管理強化のため、AIセキュリティ企業Permisoを買収する。企業がAIエージェントや非人間的IDを管理・保護するためのセキュリティ機能を拡充するのが狙い。
中小企業にとって、Linux VPSのセキュリティ対策はもはや不可欠です。サイバー攻撃が高度化する中、AIを活用することで脅威をどのように検知・防御できるか、企業が取るべき対策の重要性を解説します。
Anthropicの調査結果から、仮想通貨に関連する未発見の脆弱性をMythosが特定しました。ブロックチェーン技術におけるセキュリティ上の欠陥が長年放置されていた事実は、業界に警鐘を鳴らしています。
TechCrunch Disrupt 2026のAIステージにて、現在の主要トピックを深掘り。SaaS市場の構造変化やAIエージェント導入に伴うセキュリティ課題など、業界の最前線をGoogle for Startupsが後援して議論します。