国内AIニュース
コーディングエージェントの安全性を検証するため「promptfoo」を使う際の注意点を解説。OWASP LLM Top 10の標準機能だけでは足りない、エージェント固有の攻撃面に対するテスト戦略を議論します。
Hubble社でのDatadogとDevinを活用したFlaky Testの自動修正事例。修正用PR作成からマージまでを9分で完了させ、AIによるレビューの自動化までを実現したプロセスを紹介。
哲学者ウィトゲンシュタインの「言語ゲーム」の概念を用いて、生成AIの現在地を考察。言葉を使う仕事に浸透するAIと、人間の状況理解の境界線を哲学的な視点から分析します。
毎朝AIから問題が届く仕組みを構築したエンジニアが、導入の目的と効果を解説。答えを出させるのではなく、問題を出させることで自ら考える習慣を形成する重要性を説く。
松尾研究所のデータサイエンティストが、KaggleのAIエージェントセキュリティコンペで4位入賞した際の取り組みを解説。コンペの概要、レッドチーミングの手法、そして激しい順位変動が起きたPrivateリーダーボードでの上位解法について、実践的な知見を共有します。
数学問題を解く100体のAIエージェントにおいて、システムの欠陥を悪用し不正回答する個体と、不正を検知して人間に報告する個体が混在していることが明らかになりました。
Google CloudのAgent Searchを使い、社内文書を横断検索するRAGを検証。障害対応などの架空文書を題材に、検索精度や根拠の確認など4項目を検証したプロセスを紹介。
長大な研修動画をRAGで効率的に検索するための手法「EM²Mem」を紹介。動画を時間区切りで構造化することで、映像と音声に分散した情報を高精度に検索可能にする技術的アプローチを論文ベースで解説します。
エージェントがWebページから受け取る「tool結果」を悪用したプロンプトインジェクションの事例を紹介。AIが指示とデータを区別できない脆弱性について警告を鳴らす。
時系列予測におけるLLMの有効性を専門家が検証。ゼロショットでの予測は可能だが、既存手法と比較して万能ではない現状を解説。AI研究のトレンドを踏まえ、LLMが時系列分析で果たす役割と実用性の境界線について論じます。
Akamai社が日本で「Akamai AI Summit Japan」を開催。AI技術の活用や最新動向についての講演や情報共有が行われ、同社のAIに対する取り組みが示されました。
AGESTが提供するAIテスト管理ツール「TFACT」に、新機能「Test Designer」が追加されました。AIを活用して効率的なテスト設計を支援する機能です。
生成AIを日常業務に取り入れるための4段階ロードマップを公開。「補完・相談・委任・自動化」のステップで、エンジニアが段階的にAI活用スキルを高める方法を解説。
