AI TOPIC HUB
AIセキュリティ・脆弱性
AIモデル・拡張機能の脆弱性やセキュリティ事故まとめ。新着から過去の経緯まで、国内外の情報を時系列で確認できます。
398全記事
20過去7日
268国内
130海外
52入門向け
入門から読む
最新ニュース
398件を新着順に表示
GitHub Issue駆動開発を軸にAIエージェントを導入する手法を解説。フルスクラッチ開発では有効な「AI丸投げ」も、インフラ・DB・環境構築などの複雑な実務領域では危険を伴うため、適切な管理が必要です。
Claude Codeが突然韓国語で謝罪し、存在しない脅威を主張した事例を検証。結論としてプロンプトインジェクションではなく、AI自身の幻覚によるものだと判明。
コペンハーゲンのファッション通販サイトMiintoがセキュリティ侵害を受け、注文管理システムが不正アクセスされました。同社は被害を認め、顧客に対してフィッシング詐欺に注意するよう呼びかけています。
AIが存在しないソフトウェアURLを「幻覚（ハルシネーション）」として生成する性質を悪用する新しい攻撃手法「HalluSquatting」が確認された。攻撃者はこれを使い、AIエージェントを誘導して悪意のあるコードを実行させる。
私的なAIエージェントを運用する中で経験した、Prompt Injectionによるセキュリティの教訓。モデル提供元だけでなく、ツールを呼び出せるAIを自ら動かす全員が、セキュリティの攻防の当事者であることを強調する。
セキュリティ企業Noma Labsが、AIエージェントを悪用する脆弱性「GitLost」を報告しました。GitHubのIssueを悪用して、認証なしで非公開リポジトリの情報漏洩を引き起こす危険な攻撃手法です。
Googleは、LinuxカーネルにおいてゲストVMから脱出可能な脆弱性に対し、25万ドルの報奨金を支払った。この脆弱性を突かれると、未承認のユーザーが管理者権限（root権限）を取得する恐れがある。
主要なAIコーディングエージェントで「GhostApproval」問題が発生。AIと人間の協働におけるセキュリティの盲点が、過去の技術的教訓を繰り返していることが判明しました。
Claude Codeでの開発セッション中に発生したセキュリティ事案の報告。ツール出力ストリームへの注入攻撃や偽の警告メッセージなど、破壊的な試行が行われた事例を分析し、エージェント環境における安全対策の重要性を説く。
多くの企業がAIの導入を急いだ結果、セキュリティインシデントや脆弱性の発生に苦しんでいます。十分な検討なしにAIを導入することのリスクが浮き彫りになっています。
AIセキュリティCTF「Gandalf Adventure」の攻略記録。Lv1,2に続き、2人の相手（エージェント）の制約を同時に満たす必要があるLv3の挑戦を通して、AIの防御メカニズムを突破するヒントや考え方を共有する。
Anthropicがエージェント型コーディングツール「Claude Code」向けにセキュリティプラグインを公開。ソースコードの脆弱性を自動レビューし、同一セッション内での迅速な修正支援を実現します。
CDNetworksが、マルチモデルAIプラットフォームを対象とした高速化およびセキュリティ強化ソリューションの提供を開始しました。これにより、AIサービスのパフォーマンスと安全性を向上させます。
LLMの推論訓練における特権情報漏洩を解決する「DemoPSD」を紹介。既存のOPSD手法の弱点であるショートカット学習を回避するため、教師と学生の予測分布間のJS分岐を最適化する新しい手法。
AIコーディングエージェントをゼロデイ脆弱性ハンティングに活用するフレームワーク「T3MP3ST」を紹介。偵察から攻撃、レポート作成までを自動化するマルチエージェント型セキュリティツール。
OSSの認可機能を対象にした脆弱性検査ハーネスの構築記録。既存CVEの再発見を通じて、AI支援によるセキュリティリサーチにおいて「新規性の確認」という地味だが重要な工程を詳述する。
AIエージェントの長期稼働において課題となる「内部状態の変質・汚染」への対処法を提唱。従来の境界防御を突破された後の整合性維持のため、自律的に検証し環境を清潔に保つための設計思想について論じる。
中国のアリババグループは、Anthropicが提供するAIコーディングツール「Claude Code」について、セキュリティ上のリスクがあるとして、従業員による利用を全面的に禁止する方針を固めました。
GIGAZINE / TechCrunch AI
「Mythos級AIへのアクセス有無が勝敗を分ける」という脅威論に対し、侵入自動化を成功させた当事者は否定しています。アクセスの有無ではなく、別の要素が重要であると指摘しています。
サイバー犯罪グループ「INC」と「Lynx」が関与する攻撃のログインログを分析した結果、同一人物が両グループで活動していた可能性が浮上。セキュリティの不備から犯罪組織間の繋がりが明らかになった。
Microsoftは当初、悪用の可能性は低いとしていたSharePointのRCE脆弱性だが、CISA（米国土安全保障省サイバーセキュリティ・インフラセキュリティ庁）が「既知の悪用脆弱性（KEV）」リストに追加した。
Appleのプライバシー保護サービス「メールを非公開」に、個人のメールアドレスが露呈する脆弱性が発見された。Appleは1年前に問題を認識していたものの、未だ修正に至っていない。
Claude Sonnet 4.6から5への移行に伴う、エージェント運用の破断点チェックリスト。品質比較よりも、max_tokens制限、コスト、リトライ条件、 refusal対応など、運用環境を維持するための回帰確認事項を整理。
米国商務省による輸出規制の解除を受け、AI企業Anthropicが「Claude Fable 5」のグローバル提供を再開した。脆弱性診断やコード生成を悪用するプロンプトを制限する新フィルターが実装されている。
AIの思考プロセスを偽装する「CoT Forgery」攻撃が発見された。特定の役割を装うだけで、AIが通常は拒否する違法薬物の製造手順などを出力してしまう脆弱性があり、プロンプトインジェクションへの懸念が高まっている。
セキュリティ研究者bikiniが公開する脆弱性調査の統合アーカイブ「exploitarium」を紹介。7-ZipやDockerなど主要なOSSの脆弱性を再現するPoCコードをまとめ、調査・研究に活用できるリポジトリの概要を解説。
完全自動化されたペネトレーションテスト（侵入テスト）ツールに対する専門家の評価が急落している。昨年は29%が導入に前向きだったが、現在は9%にまで減少。自動化の限界やリスクに対する懸念が広がっている。
Huntressの脅威ハンターが、法執行機関の捜査状況をランサムウェア攻撃者に漏洩させた問題について、CEOが「判断が不適切だった」と認め謝罪した。元従業員からは内部脅威の定義に該当すると指摘されている。
Windows Defenderの脆弱性「BlueHammer」がマルウェア攻撃に悪用されている。4月にパッチが配布されたにもかかわらず被害が続いており、セキュリティ意識の欠如が課題となっている。
中国のAI企業Z.aiが発表したオープンウェイトモデル「GLM-5.2」が、脆弱性検出ベンチマークでAnthropicのClaude Codeを上回りました。高い性能を示し注目を集めています。
病院システム開発において、個人情報漏洩対策としてローカルLLMを採用。しかし、それだけでは不十分であり、ハッキングやPC侵入のリスクを想定した多層的なセキュリティ対策が必要であると解説する。
インド中央銀行が信頼性向上のために義務付けた「.bank」ドメインの登録機関において、機密情報が流出する不備が見つかりました。公開されたAPIを通じて、攻撃者が銀行職員になりすますための情報がさらされた可能性があります。
暗号ライブラリの脆弱性を発見するエージェント手法「Chai」を紹介。コーディングエージェントのレビュー・診断能力を応用し、プログラム全体を網羅的かつ正確に検査する手法を解説する。
AIがセキュリティの脆弱性検出に優れているとしても、結局のところ、多くの企業や個人のずさんなパスワード管理などの人為的ミスが攻撃の最大の隙であると指摘しています。
現代のDevSecOps環境では、迅速なコード展開に対応するため、リリース前の自動セキュリティテストが不可欠です。手動レビューの限界を克服し、開発の初期段階で脆弱性を発見・排除するための主要なツールとその重要性を解説します。
AI彼女アプリの開発を通じて、AIとのコミュニケーションにおける違和感について考察。AIが過去の会話を正しく記憶・検索できても、人間にとって「会話が続くこと」と「また話したくなること」は別物であると指摘し、記憶の活かし方について論じる。
中国のZhipu AI（Z.ai）が公開した「GLM-5.2」が、特定のバグ発見やセキュリティタスクにおいて、有力モデルであるMythosに匹敵する性能を示したと報告されました。米中AIの技術差が急速に縮まっています。
Mozillaの0dinチームの研究により、Claude CodeなどのAIコーディングエージェントが、一見クリーンに見えるGitHubリポジトリを読み込むだけでマルウェアを実行させられる脆弱性が明らかになりました。AIの「ユーザーを助けたい」という性質が悪用されるリスクがあり、プロジェクトの初期化を指示するだけで攻撃が成立する危険性があります。開発者は信頼できないAIエージェントの使用やコード実
MCP（Model Context Protocol）のセキュリティリスクを解説するガイド。OWASP MCP Top 10に基づき、SOCアナリストの視点で脅威モデルや検知ログ、隔離環境での検証手法を全10項目網羅して解説。
AIがこれまで発見されていなかった無数のセキュリティ脆弱性を次々と突き止めています。これにより、サイバーセキュリティの専門家にとっては多忙で困難な夏になることが予測されています。
AIコーディングアシスタント「Amazon Q」に、悪意のあるGitリポジトリから任意のコードを実行され、クラウドの認証情報を盗まれる欠陥が発見されました。プロジェクト設定ファイルが攻撃ベクトルとなるリスクに研究者が警鐘を鳴らしています。
米国から制裁を受けている中国のQihoo 360が、AnthropicのAIモデルの脆弱性を突く脅威に対抗するため、より高度なバグ検出ツールを構築したと発表した。
Microsoftは、セキュリティエンジニアリングチームが活用するマルチモデルエージェント型セキュリティシステム「MDASH」について解説。Windowsの脆弱性発見に貢献しています。
Anthropicの高性能AI「Claude Mythos」が、アメリカ政府の機密システム内に未発見の脆弱性を見つけていたことが判明した。
医療診断用AIが、特定の条件下で学習データの一部を露呈させるリスクがあることが判明しました。診断AIの精度だけでなく、プライバシー保護のあり方に警鐘を鳴らしています。