arXiv cs.LGは10月12日(現地時間)、論文「Lessons from Luck: Do LLM-Written Lessons Carry Chance into an Agent's Next Decision?」を公開した。自己改善エージェントが実行結果から生成する教訓が、ノイズの多い結果に内在する偶然性をその後の意思決定に持ち込む可能性を測定した研究だ。256の合成世界で信頼性の異なる2つのツールを使用する反復タスクで実験を実施し、11のLLMエンドポイントから90,084の回答を得た。
研究は、Kazuki Nakayashiki氏によって執筆された。自己改善エージェントがタスクの実行結果から「教訓」を生成する際、結果に内在する偶然性がその教訓を通じて後の意思決定に影響を与える可能性を分析している。
実験は256の仮想環境で実施され、各環境は記録された信頼性を持つ2つの交換可能なツールを用いる反復タスクで構成された。過去の実行はスクリプト化されており、より信頼性の高いツール（良い決定）または信頼性の低いツール（悪い決定）が使用され、結果は成功または一時的な失敗として割り当てられた。モデルはReasoningBankのメモリ書き込み指示に従い、この実行から教訓を作成した。その後、同じモデルの新しいセッションが、権威あるログと過去の結果を保持し、作成された教訓、別の結果からの教訓、無関係な項目、または理由付けされていない指示のいずれか一つを記憶項目として用いて、次の実行の最初のツールを選択した。
分析の結果、より良いツールが偶発的に失敗した後、モデルが作成した教訓はその偶然性を引き継ぎ（registered reading luck-carrying; interaction +0.112, 95% interval [+0.097, +0.126]）、次の実行で悪いツールを選択する割合が、その失敗から書かれた教訓を用いた場合で11.6%に達した。これは、無関係な項目を用いた場合の0.4%、成功から書かれた教訓を用いた場合の0.4%と比較して顕著な増加だった。なお、ログが失敗は独立していると記載していた場合の効果は+0.042、そうでない場合は+0.181とされた。
探索的な読み取りでは、6つのエンドポイントで偶然性が持ち込まれ、そのうち最大で+0.352の影響が見られた。一方、5つのエンドポイントでは影響が0.10を下回った。二次比較として、書き込み指示に3文の意思決定品質に関するメモを含めると、偶然失敗後の悪いツール選択率は7.5%に低下し、変更なしオプションを含む両結果に対する単一の指示では3.1%に低下したが、これらはいずれも登録された害軽減ルールを全てのエンドポイントで満たすものではなかった。研究プロトコル、コード、および刺激は、確認実行前にビットコイン（Bitcoin）ブロックに預託され、タイムスタンプが記録されている（doi: https://doi.org/10.5281/zenodo.23253562）。
参考: arXiv cs.LG (アーカイブ) — 2026年10月28日 13:00 (JST)
原文ハイライト"carry chance into an agent's next decision"