Tag
6 件の関連記事
arXiv cs.CRが2026年7月28日(現地時間)、マルチエージェントLLMシステムにおける分散型バックドア攻撃の早期検出に関する研究論文を公開した。この攻撃では、単一のエージェントでは完全なペイロードを持たず、暗号化された断片を観測結果に隠し、複数のエージェントに拡散させ、実行後に外部ステップで再構築および実行する。各アクションを個別に判断する逐次的な安全性チェックでは、完全な分散型ペイロードを認識できない可能性があるという。
arXiv cs.CR は2026年7月26日(現地時間)、論文を公開し、大規模言語モデル (LLM) が生成する認証コードのセキュリティアーキテクチャに不確実性があることを示した。5つのAIコーディングアシスタントをNIST SP 800-63Bガイドラインに基づいて評価した結果、基本的なプロンプトでは重要な保護機能が欠落していることが判明。包括的なセキュリティの実現には、モデルを自己監査ループに導く反復的なRepromptingが必要だと結論付けている。
ポール・カシアニック氏、ブレイン・ネルソン氏、ヤロン・シンガー氏らは7月16日(現地時間)、セキュリティエージェントの評価手法に関する研究論文を発表した。従来の成功率に加えコスト効率を考慮する新たな評価アプローチを提唱し、言語モデルベースのエージェントをCybenchとSplunk BOTS v1の課題で評価、費用対効果を分析した。研究結果は、タスクに応じた性能特性の違いを指摘し、経済的効率性や運用的適合性を重視したベンチマークの必要性を示唆している。この研究は、ML実務者がセキュリティエージェントを選定・導入する際の新たな評価軸を提示する。
arXiv cs.CRは2026年6月23日(現地時間)、ヒダヤット・アクシュ (Hidayet Aksu) 氏による論文「マエストロ・オーダー：モデル非依存のオーケストレーションフレームワーク (Maestro Order: A Model-Agnostic Orchestration Harness)」を公開した。本論文は、信頼性の低い単一のモデルを、信頼性の高い問題解決システムへと変換する、モデルに依存しないオーケストレーションフレームワーク「マエストロ・オーダー (Maestro Order)」を提案している。
arXivは6月16日(現地時間)、ツール利用型の大規模言語モデル（LLM）エージェントが持つ潜在的なセキュリティ問題を評価する新たなベンチマーク「SafeClawBench」に関する論文を公開した。従来の評価手法が攻撃成功率を単一の指標で捉えていたのに対し、本研究は意味的攻撃受容、監査可能な損害の証拠、およびサンドボックス環境で観測されるツールやシステム状態への実害という、三段階でセキュリティリスクを計測するフレームワークを提唱している。
arXiv cs.CRは2026年6月11日(現地時間)、人工知能（AI）とブロックチェーンベース技術（仮想通貨）の交差点に焦点を当てた調査論文「Crypto x AI, AI x Crypto: A Survey」を発表した。本論文は、両技術の現状、機会と課題、そして未解決の研究課題を体系化することを目的としている。AIと仮想通貨の意味のある統合は、まだ初期段階にあるとの見解を示している。