Arnab Sen Sharmaらは11月12日(現地時間)、大規模言語モデル (LLM) が目標を符号化するメカニズムに関する研究論文をarXiv cs.CLで公開した。この研究は、LLMがタスク目標を内部のニューラル表現として捉え、それが具体的な行動を先行させ、多様な実行経路を可能にする柔軟性を持つことを検証している。特に、アテンションヘッドが次のサブ目標符号化を担い、これが将来の行動に因果関係を持ち、異なる環境へ移植可能な塑性を持つと結論付けた。
本研究は、複数のサブタスクを含むコーディング環境を構築し、LLMの目標志向の行動とサブ目標の選択を詳細に評価した。実験を通じて、アテンションヘッドのまばらな集合の出力から、次のサブ目標の符号化を特定することに成功している。
これらのアテンションヘッドは、LLMが実行する将来の行動を自然言語で解読するためにも使用できることが示された。さらに、この符号化が次の行動に対して明確な因果関係を持ち、かつ「塑性」を持つことが確認された。例えば、この符号化を異なるプログラミング言語のような別の環境に移植した場合、異なるトークンシーケンスを使用しながらも、同じ操作が引き起こされることが示されている。
LLMが行動の実行全体を通じてこの目標符号化を維持することも判明した。これは、再帰なしのトランスフォーマーLLMが残りのレイヤーよりも多くのトークンの状態を前方へ持ち越せないため、疑問視されてきた点であった。研究者らは、その必要はないと提案している。
彼らは非再帰的目標志向戦略 (Non-Recurrent Goal-Oriented Strategy, NRGS) accountと名付けた新しいフレームワークを提唱した。このaccountによれば、LLMはタスクの仕様から目標を頻繁に再読し、成長するコンテキストに見える進捗と比較し、残っている目標を追求するという仕組みで動作する。このNRGS accountの予測は、標的とされた因果介入によって検証され、LLMが単一の静的な目標表現に依存するのではなく、動的に目標を再評価し続けることで、複雑なタスクを効率的に実行できる可能性を示唆している。
今回の成果は、LLMがどのようにして複雑な目標を理解し、それを具体的な行動計画へと変換しているのか、その内部メカニズムに関する新たな洞察を提供する。
参考: arXiv cs.CL (アーカイブ) — 2026年11月13日 03:55 (JST)