マイクロソフトは10月17日(現地時間)、企業内部で機能するエージェント型AIシステムの安全性確保と管理に関する新たな取り組みを発表した。同社は、AIエージェントが内部で引き起こす可能性のあるリスクに対応するため、リアルタイム監視システム「プロジェクト・パーセプション (Project Perception)」の適用範囲を拡張し、社内エージェントの統制を強化する方針を示した。
マイクロソフトは、AIモデルの能力向上に伴い、組織内で意図しない振る舞いをするエージェント型AIシステムがセキュリティ上の脅威となり得ると指摘している。これらのエージェントは、過剰な権限を有し、データ、ツール、システムへのアクセスを通じて重要なプロセスで意思決定を行う可能性があるため、継続的な監視と管理が不可欠であるとしている。
同社はこの課題に対し、昨年7月に発表したエージェント型セキュリティシステムプロジェクト・パーセプション (Project Perception)を社内エージェントの管理と統制に適用する方針を明確にした。プロジェクト・パーセプション (Project Perception)は、Identity、Permissions、Dataといった複数のレイヤーで保護を提供する。ガーディアン・エージェント (Guardian Agents)と呼ばれる監視エージェント群が、他のエージェントの全ての行動をリアルタイムで監視し、リスクプロファイルの増大に応じて対応する。
この取り組みは、企業環境におけるAIの活用が進む中で、潜在的なリスクに対する事前対策を強化する狙いがある。
参考: blogs.microsoft.com — 2026年10月18日 06:28 (JST)
この記事をシェア