arXiv cs.CLは2026年11月18日(現地時間)、言語モデルの一般的な能力向上が特定の訓練データの欠落を補う可能性を示す論文を公開した。Mark Marosi氏とPeter Antal氏による研究で、悪用防止のため訓練時に意図的に保留したデータについても、他のデータによる全体的な進歩がその能力獲得を代替し得ることを確認した。保留されたスキルは、モデルの進歩に伴い、当初必要だったデータ量のごく一部で再獲得できるとの知見も示した。

研究チームは、チェス、オセロ、分子文字列、括弧言語、ウェブテキストという5種類のタスクを対象に、モデルの訓練過程で個々のスキルに関わる訓練シグナルを意図的に保留する実験を実施した。保留は、開発者が悪用を懸念する能力について訓練データから意図的に除外する状況を想定したものとみられる。実験の結果、大規模モデルにおける特定スキルの獲得の遅れは、より小規模なモデルの挙動から予測可能であることが示された。

具体例として、チェスにおいて「チェックへの応答」を明示的に訓練していないモデルが、合法手のランク付けの精度で、チェックへの応答を訓練済みのモデルとほぼ同等の結果を示した事例が報告された。研究チームは、モデルが他の訓練データを通じて全般的な能力を高めることで、保留された特定のスキルを暗黙的に獲得した可能性があると指摘している。

さらに、いったん保留していたデータを用いてモデルを追加訓練したところ、目的のスキルを獲得するために必要なデータ量は、初期訓練段階と比べて大幅に減少した。この減少幅は、モデル全体の進歩度合いが大きいほど拡大する傾向が確認された。一方、難易度は同程度であってもモデルの他の能力との関連が薄い制御用のルールについては、再獲得の速度がはるかに遅かったという。

実データを用いた検証として、70億パラメータのモデルから特定のプログラミング言語に関する訓練テキストを保留した場合でも、モデル全体が進歩した後には、同様の手法でそのプログラミング言語に関するスキルを再獲得できたと報告されている。

これらの結果は、訓練データのフィルタリングによって悪用可能な能力の獲得を一時的に遅らせられる可能性がある一方、モデル全体の性能が向上するにつれて、その能力を再獲得するために必要なデータ量が段階的に減少していくことを示している。この傾向は、モデルの安全対策を設計する際に考慮すべき要素となる可能性がある。論文の著者はMark Marosi氏とPeter Antal氏で、全49ページ、図16点、表6点から構成される。原文はarXiv cs.CLに2026年11月18日付で公開され、URLはhttps://arxiv.org/abs/2611.24844。


参考: arXiv cs.CL — 2026年11月19日 03:07 (JST)

原文ハイライト

"The delay of a withheld skill in larger models was predicted from smaller ones."

この記事をシェア
X はてブ LinkedIn