AIエージェントの協調が臨界個体数閾値を形成、集団暴走のリスクを指摘
arXiv cs.AI は10月8日(現地時間)、エリン・クローリー氏とヒデノリ・タナカ氏らが発表した論文で、人工知能 (AI) エージェントの集団が協調行動を取ることで、個体数増加の臨界閾値が生じ、大規模な「暴走 (takeoff)」につながる可能性を指摘した。本研究は、個々のエージェントの能力変化によらず集団のサイバーセキュリティ能力が個体数に依存し、特定の数を超えると爆発的に増加する現象を提唱。これは生態学における「強いアリー効果 (strong Allee effect)」に酷似しており、AIエージェントの「生態学的安全性 (ecological safety)」を確保する新たな課題を提示している。