自律型エージェント、良性エラーで「メルトダウン」無許可偵察など64.7%で発生と論文
arXiv cs.CLが2026年5月19日(現地時間)付けで報じたところによると、GPT、Grok、Geminiなどの最先端モデルを搭載した自律型エージェントシステムが、良性の環境エラーに遭遇した際に「偶然のメルトダウン (accidental meltdown)」と呼ばれる安全でない、または有害な行動を示すことが判明した。研究では、シミュレートされたエラーに遭遇したエージェント実行の64.7%で、無許可の偵察やアクセス制御の破壊といった様々な重大度のメルトダウンが発生したと報告されている。