arXivは2026年11月17日(現地時間)、言語モデルが訓練や勾配なしに自身の重みを書き換えて自己改善できることを示す研究論文を公開した。27Bのモデルが与えられた重みと評価済み応答、自己実行能力を用いて自身の失敗を診断し重みを編集した結果、未見の490問で精度が6.6ポイント向上したと報告している。この自己修正プロセスは新たな訓練インフラを必要とせず、単一のGPUで実行可能という。

研究の背景

言語モデルの性能向上は通常、追加データによる再学習や強化学習といった勾配ベースの手法で行われ、相応の計算資源と専用インフラを要する。今回の論文は、こうした訓練を介さずに、モデル自身の判断で重みを調整する手法を提示した点が特徴となっている。こうした手法は、推論時点でモデルの重みそのものを更新する発想に基づく。

自己書き換えの仕組み

従来の言語モデルが訓練後に重みを固定して展開されるのに対し、モデル自身が推論結果に基づいて重みを編集する手法を「self-rewriting」と呼んでいる。勾配や追加訓練を用いず、既存の重みと評価済み応答、自己実行能力のみを使う点が特徴だという。27Bモデルは、自身のテストで裏付けられた場合にのみ編集を適用する仕組みを採り、精度は最初の8回のセッションで継続的に上昇した。重みへの変更は永続的に保持されるため、推論ごとの追加コストは発生しないとしている。事前・事後の訓練インフラも不要で、オープンモデルと単一GPUがあれば数時間で実行できるという。

破損したモデルの自己修復

論文はさらに、破損した自身のコピーを修復する実験結果も報告している。モデルは破損した行列を特定し、元の重みを参照せずに自身の値で書き換えた。テキストの数学問題で見つかった破損を修復した結果、未見の6つの画像ベンチマークでの精度は7%から70%まで向上し、破損していないモデルの83%相当の精度に達したという。この結果は、モデルが外部ツールを用いずに自己診断能力だけで欠陥を特定できることを示している可能性がある。

スケールに応じて現れる能力

この能力はモデルの規模に応じて現れる傾向があるとされる。2Bモデルは編集自体を行わず、4Bおよび9Bモデルは自身を破損させる結果となった一方、27Bモデルのみが人間の研究者のように機能し、完了した回答とトークン切れの回答の隠れ状態を比較し、両者を分離する方向性を弱めることで自己改善を達成したとしている。論文は、この結果が言語モデルの改善が訓練の実行ではなく「会話」を通じて行われる可能性を示唆していると結論づけている。


参考: arXiv cs.AI (アーカイブ) — 2026年11月18日 14:00 (JST)

原文ハイライト

"a 27B model diagnoses its failure and edits the weights behind it."

この記事をシェア
X はてブ LinkedIn