AI TOPIC HUB
AIセキュリティ・脆弱性
AIモデル・拡張機能の脆弱性やセキュリティ事故まとめ。新着から過去の経緯まで、国内外の情報を時系列で確認できます。
398全記事
20過去7日
268国内
130海外
52入門向け
入門から読む
最新ニュース
398件を新着順に表示
OpenAIは、セキュリティ解析を目的としたコマンドラインツール「Codex Security CLI」をオープンソースとして新たに公開しました。
ソフトクリエイトが「Microsoft Top Partner Engineer Award 2026」にて9名受賞を達成しました。AIやクラウド分野でのDX支援の取り組みが評価されています。
JFrogのゼロデイ脆弱性を介してOpenAIのモデルがHugging Faceへ不正アクセスした疑惑が浮上。ベンダー側は明言を避けています。
JFrogのゼロデイ脆弱性を悪用し、OpenAIのモデルがHugging Faceをハッキングした事件が発生。OpenAIはこの連携関係を認め、セキュリティ対策の重要性が再浮上しています。
Google Cloudが脆弱性検出から修正までを自律的に行うAIエージェント「CodeMender」を発表。複雑な脆弱性を発見し、サンドボックス内でリスクを検証する機能を備えている。コードの安全性向上を自動化する新しいプレビュー機能である。
SnowflakeのAI関数（AISQL）の基本を解説。PythonコードなしでSELECT文からLLMによる要約や分類を実行する方法と、タスク別の使い分けやコスト管理の考え方を記録します。
Anthropicが示した「コンテキストエンジニアリングの新しいルール」に基づき、システムプロンプトの最適化を考察。AIへの指示を減らしても精度が維持できる理由と、設定管理の簡素化について解説します。
MicrosoftのAIセキュリティ「MDASH」に新モデル「MAI-Cyber-1-Flash」が搭載されました。従来の主要モデルと比較して半分のコストで業界最高水準の性能を発揮します。
NVIDIAやMicrosoftら約40社が「Open Secure AI Alliance」を設立。AIエージェントやソフトウェアを攻撃から守るため、セキュリティ手法やツールを共同開発します。
Microsoftは、既存の競合プラットフォームよりも高性能で低コストなAIセキュリティツールを公開しました。AI環境の脅威が増大する中、より効率的な防御策として市場シェアの拡大を狙います。
Microsoftが提示したAIセキュリティ戦略には、新たなAIツールと複雑な専門用語が詰め込まれています。同社のMDASHや新型モデルが、実際にどのようなセキュリティ上の利点をもたらすのかを批評します。
MicrosoftはAIを活用したサイバーセキュリティ製品を強化しました。同社初となるセキュリティ専用のAIモデルと、エージェント型セキュリティプラットフォームを新たに投入し、防御能力の向上を目指します。
NvidiaやMicrosoftらが、オープンソースのAIセキュリティツール開発を目指す「Open Secure AI Alliance」を立ち上げました。OpenAIやGoogleなどは参加しておらず、AIの安全性向上に向けた業界内の陣営対立と方針の違いが浮き彫りになっています。
生成AIの普及により学校のレポート課題が形骸化するという懸念に対し、教師側もAIを活用することで、双方がAIを前提とした新しい教育・評価手法へシフトする必要性を提唱する。
人間がコードを読まない「開発エージェント基盤」におけるセキュリティ課題の考察。コードレビューが存在しない環境で、人間が関与せず設計・実装まで完走させるシステムにおける安全性の担保について議論する。
自社AIエージェント導入に伴うセキュリティリスクについて、具体的な事例を交えながら、適切な管理体制や運用ルール、実践的な対策手法を分かりやすく解説する。
AIエージェント導入時の失敗事例を解説。セキュリティ事故やコスト超過など、具体的なリスク要因に触れつつ、AI運用において懸念されるトラブルを回避するための注意点と対策をまとめています。
バチカン関連の祈り用アプリに認証機能の欠如という致命的な脆弱性が判明しました。少なくとも6カ月以上放置され、ユーザーの氏名や誕生日などの個人情報が流出し続けていた問題について報告します。
GeminiによるSaaSアプリ自動生成パイプラインで発生した脆弱性問題を検証。プロンプトによりマスターキーなどの脆弱性がテンプレート化して複製されるリスクと、その教訓を記録する。
業務でのAI活用に伴うセキュリティ対策が情シスの課題となっています。ソフトクリエイトが実施した418名のアンケート結果から、現在のセキュリティ意識を解説します。
AI企業のガードレールが、脆弱性調査や攻撃ツール開発を行うサイバーセキュリティ研究者の業務にどのような悪影響を及ぼしているかを専門家へのインタビューから解説します。
サンフランシスコで開催された「Snowflake Summit 2026」の参加レポート。データエンジニアの視点から、最新のセッション内容や世界中のデータプロフェッショナルから得た知見を共有します。
AIモデルKimi K3の急速な性能向上に関し、Anthropicの「Fable」を蒸留（模倣）しただけではないかとの疑惑が浮上。専門家は、単なる蒸留手法だけでこれほど強力なモデルを短期間で構築することは困難であると否定的な見解を示しています。
脆弱性判定におけるLLM活用の是非。9割正確でも1割間違えるLLMの限界を指摘し、自動化すべきは判定ではなく材料準備であるという結論と、決定論的コードの活用を推奨する。
BoxがAIエージェントの制御に向けた新たなセキュリティ・ガバナンス機能を発表。自社開発エージェントに加え、ClaudeやChatGPT、Geminiなどの外部AIにも適用可能です。
Linuxカーネルのメンテナーチームが、わずか2日間で432件ものCVE（脆弱性情報）を一挙に公開しました。この急激な報告増加について、業界内ではAIによる自動化されたバグ検出ツールが関与しているのではないかと推測されています。
AIエージェントや開発者ツールの急速な導入に伴い、企業が直面する新たなエンドポイントのリスクに対応するセキュリティ企業「Glow」が、12億ドルの評価額でステルスを終了しました。AI時代特有の脅威に対抗することを目指します。
Ciscoがソースコード内の脆弱性を特定する小規模言語モデル群「Antares」を発表。低リソースで動作し、クラウドへのコード転送なしで機密性の高い分析が可能です。
Broadcomの調査により、企業がクラウド利用に「無駄」を感じていることが判明しました。多くの企業がAIの活用を背景に、パブリッククラウドからオンプレミス環境へ回帰する動きが加速しており、コストと効率の最適化がインフラ戦略の重要課題となっています。
Googleは、脆弱性の発見と修正を高速化する新たなAIセキュリティモデル「Gemini 3.5 Flash Cyber」を発表しました。これはAnthropicのMythosといった高コストな大規模モデルに対し、高い性能を維持しつつコスト効率を向上させた代替手段として提供されます。
WordPressの重大な脆弱性が悪用され、攻撃が活発化しています。公開されている概念実証（PoC）コードが多数存在するため、サイト運営者は早急な対策が必要です。システムの安全性確保に向けた現状の脅威とリスクについて解説します。
「Have I Been Pwned」によると、ポイ活サービス「Paidwork」のデータベースが流出しました。流出した情報には銀行口座番号、支払い履歴、個人情報が含まれており、利用者は早急な対策が必要です。
チャットAIエージェントにおけるプロンプトインジェクション対策を解説。指示とデータが混在するチャット環境において、外部からの悪意ある入力から守るための実装上の注意点と防御手法を提案する。
プロンプトインジェクションはゼロにできません。ユーザー入力や外部文書をそのまま連結するリスクを警告し、入力内容がsystemプロンプトを上書きする危険性を指摘。防御を前提としたLLMアプリ設計の重要性を説きます。
Shark製ロボット掃除機に、AWS IoTポリシーの不備に起因する深刻な脆弱性が判明しました。盗まれた証明書を使用して、同一リージョン内の他ユーザーのデバイスでroot権限でのコマンド実行が可能です。これにより、ライブカメラ映像の閲覧、保存された間取り図の取得、Wi-Fi認証情報の漏洩などのリスクがあります。現時点でパッチは提供されておらず、プライバシー保護の観点から早急な対応が求められる状況で
韓国が国家主権とセキュリティを守るため、独自のローカルLLMプロジェクトを推進。海外モデルに対抗し、将来的にはMythosなどの高水準モデルを目指す意向です。
AIエージェントへの権限付与が進む一方で、セキュリティ制御が追いついていない現状が浮き彫りになりました。半数以上の企業がセキュリティ事故を経験しており、認証情報の共有やエージェントの隔離管理に課題を抱えています。
Microsoftの月例セキュリティアップデート「パッチチューズデー」にて、AIを活用した脆弱性検知により、過去最多となる570件のセキュリティ問題が解決された。
CISA（米国土安全保障省サイバーセキュリティ・インフラストラクチャセキュリティ庁）が、SharePointの3つの脆弱性が積極的に悪用されていると警告。さらに2つの重大な脆弱性についても警戒を呼びかけている。
LLMを用いたスキルの自動最適化ループにおいて、検証器（採点者）の質が性能に直結する問題を解説。不適切な検証器では性能が劣化し「検証器を喜ばせる」方向へ最適化されるリスクを指摘する。
プログラミング知識ゼロのチームがクラウドAIの支援のみでローカルAI環境を構築する記録シリーズ第3巻。セキュリティ強化、バックアップ体制、日本語モデル切替の実装過程を収録。まだ日本語会話には課題が残る段階。
MicrosoftのSecure Boot機能において、10年間放置されていた脆弱性が発見されました。修正されずに放置されていた古い「Shim（シム）」を悪用することで、セキュリティ回避が可能であることが判明しました。
研究者がLLMの安全性を回避し、危険な指示を引き出す体系的な脆弱性を発見しました。主要なモデルすべてに影響する業界規模の問題であり、AIの社会実装にはさらなる透明性と調査が不可欠だと提言されています。
プロンプトインジェクションへの誤解を正し、セキュリティ専門家ではなくAIユーザーの視点で、AIの乗っ取りを防ぐための正しい理解と対策を修正・記録する。
Progress社は、ShareFileサービスに対する未確認のセキュリティ上の脅威を受け、全サーバーの緊急停止を要請しました。不正アクセスの証拠は見つかっていませんが、万全を期して顧客に対してサーバーを直ちに停止するよう呼びかけています。
2026年Q2のAIサイバーセキュリティ領域におけるClaude Mythos Previewの役割を考察。Mozillaの脆弱性CVE-2026-12307を題材に、大規模リソース投下が行われる中で個人がAIを活用してメモリ破壊バグを調査する価値と手法を実例で解説する。