AIエージェントの信頼形成・破壊・回復を測定、多エージェントシステム統治への示唆
ユージャオ・チェン氏は6月12日(現地時間)、arXiv cs.AIに研究論文を投稿し、AIエージェントがチームで協力する際の信頼形成、破壊、回復を測定する行動的アプローチを提案した。この研究は、コストのかかる検証に基づき、言語モデルエージェントがチームメイトに寄せる信頼の度合いを定量化する手法を示している。多エージェントAIシステムのガバナンスにおいて、展開前の信頼傾向を測定することの重要性と、キャリブレーションが中心的課題であるべきと指摘している。