Tag
6 件の関連記事
論文公開プラットフォームのarXivは2026年10月21日(現地時間)付けで、強化学習を用いてマルチエージェントシステム（MAS）の脆弱性を特定する新しいレッドチーミングフレームワーク「ReMAS」に関する論文を発表した。この研究は、大規模言語モデル（LLM）エージェントが利用される多エージェント環境における、既存のブラックボックス型攻撃手法の有効性不足を指摘。ReMASは、特にサブエージェントがユーザーと直接対話しないシステムにおいて、より効果的な敵対的プロンプトを生成し、システムプロンプトの抽出成功率を大幅に向上させる。
Vercelは2026年7月29日(現地時間)、開発者向けの@vercel/sandbox SDKが、複数のLinuxユーザーとグループのサポートを開始したと発表した。この更新により、単一のサンドボックス環境内において、複数の独立したエージェントを並行して安全に実行することが可能になる。各エージェントは独自のユーザーとして隔離され、プライベートなホームディレクトリを持つため、互いのファイルにアクセスできない厳格なセキュリティが保たれる。同時に、必要に応じてグループ機能を用いて共有ワークスペースを設定することも可能で、複雑なマルチエージェントシステムの構築を効率化する。
arXivは6月22日(現地時間)、ジーハオ・グオ（Zihao Guo）氏らが、階層的マルチエージェント強化学習における新たなフレームワークを提案したと報じた。これは、安全性に厳格な制約が求められるアプリケーション向けに、理論的な安全保証を提供するもので、経験的性能と安全性を両立させる。既存の学習ベース手法が安全保証に欠け、制御理論ベース手法が非効率であるという課題に対し、この研究は新たな解決策を提示する。
arXiv cs.CRは2026年6月12日(現地時間)、エージェント型大規模言語モデル (LLM) システム「オープンクロー (OpenClaw)」のセキュリティ脆弱性に関する分析論文を公開した。この論文は、複数のエージェントが連携して動作するシステムにおいて、攻撃対象領域が拡大し、単一エージェントの場合と比較して侵害確率が大幅に上昇する可能性を指摘している。さらに、プロンプトインジェクションがシステム全体に不安定性を伝播させる状況も報告されており、エージェント型システムの潜在的リスクに警鐘を鳴らした。
Chen Huang氏、Yuhao Wu氏、Wenxuan Zhang氏らは6月3日(現地時間)、大規模言語モデル（LLM）を基盤としたマルチエージェントシステム（MAS）において課題となっていたエージェント間通信の非効率性を解決する新たなプロトコル「PACT（Protocolized Action-state Communication and Transmission）」を開発・発表した。このプロトコルは、エージェントの出力情報をコンパクトな行動状態記録に変換することで、トークン使用量を大幅に削減。これにより、システム性能を維持しつつ推論コストを低減し、既存の課題となっていたトレードオフを改善する。
arXiv cs.AI が2026年5月21日(現地時間)付けで報じたところによると、大規模言語モデル (LLM) ベースのマルチエージェントシステムにおける安全なキーバリュー (KV) キャッシュ共有のためのフレームワーク「LCGuard (Latent Communication Guard)」が発表された。LCGuardは、KVキャッシュを介した潜在的な情報漏洩を防ぎつつ、タスク関連情報の効率的な伝達を目指す。このフレームワークは、共有されるKVキャッシュを潜在的な作業記憶として扱い、キャッシュアーティファクトがエージェント間で転送される前に表現レベルの変換を適用する。