AIエージェントの安全性確保、新概念「I-HITL」とプロトコルを提示
サミュエル・ブレッケンリッジ (Samuel Breckenridge) 氏らは10月26日(現地時間)、AIエージェントの安全確保におけるHuman-in-the-loop (HITL) の堅牢性を高める新たな概念「Inalienable Human-in-the-Loop (I-HITL)」と関連プロトコルを発表した。このI-HITLは、AIエージェントが人間の明示的な承認なしにアクションを開始することを阻止する。人間がエージェントによって侵害されたシステムと対話している状況や、悪意のある人間が承認をエージェントに委任しようとする場合にも適用されるという。