Google Researchは2026年10月27日(現地時間)、大規模言語モデル (LLM) が新しい知識を継続的に学習し、統合するための「スリープフレームワーク」を導入したことを発表した。この新しい学習パラダイムは、人間の脳が休息中に記憶を処理・安定させる仕組みに着想を得ている。訓練後に静的になり、壊滅的忘却 (catastrophic forgetting) に陥るという従来のLLMが抱える課題に対処する。同フレームワークは、アクティブな対話とオフラインでの記憶統合を交互に行うことで、モデルの知識保持と複雑な推論能力を継続的に強化する。
現代のLLMは事前学習とインコンテクスト学習 (ICL) によって高い性能を発揮する一方、一度デプロイされると、固定された知識カットオフ日をもって動作し、新しい情報を長期的に獲得したり適応したりすることが困難だった。また、継続的なパラメータ更新は、新しいタスクの学習が以前のタスクの性能を著しく低下させる「壊滅的忘却」を引き起こす根本的な問題がある。ICLのみに依存する場合、知識保持は直前のコンテキストウィンドウに限定され、セッション終了とともに短期情報は忘れ去られる。
「スリープフレームワーク」の下では、LLMは二つの主要な状態を行き来する。一つは「アクティブ (覚醒) フェーズ」で、モデルは積極的に入力を受け取り、処理し、相互作用し、一時情報を高速な短期記憶コンポーネントに保存する。もう一つは「スリープフェーズ」で、モデルは新しい入力の処理を停止し、内部計算を記憶の統合と自己改善に振り向ける。このオフラインのスリープフェーズ中に、モデルは事前に割り当てられたエキスパート混合 (MoE) メモリブロックをアンロックし、自己生成された練習例を使用して数値ウェイトを更新する。これにより、デプロイされたモデルは新しい事実を吸収し、推論精度を高めることが可能となる。
スリープフレームワークは、壊滅的忘却と継続的な適応という課題に対し、記憶の統合 (memory consolidation)と「夢見 (dreaming)」という二つの段階を通じて対処する。記憶の統合では、人間の脳のノンレム (NREM) 徐波睡眠に似たメカニズムを通じて、一時的な記憶を長期構造に統合する。これはパラメータ拡張と連続体記憶階層によって実現され、エキスパート混合 (MoE) とホープ・アーキテクチャ (Hope architecture) を利用して、新しい知識を既存のパラメータを妨害することなく保存する。さらに、汎用知識蒸留 (GKD) と強化学習 (RL) ベースの模倣学習を組み合わせた「知識シード」により、高周波数層に保存された一時的な短期記憶を、新たに拡張された長期パラメータへと転送する。
「夢見」の段階では、人間のレム睡眠 (REM sleep) に着想を得て、モデルが自律的な自己改善ループを実行する。合成データ生成中にランダムなエキスパート選択を行うことで、モデルは異なる知識領域を混ぜ合わせ、潜在的なパターンを発見することを促される。次に、モデルは合成訓練サンプル（「夢」）を生成し、勾配ベースのデータ選択を用いて、モデル全体の能力を最大化する可能性のあるサンプルを優先的にフィルタリングする。最終的に、モデルは最高評価の「夢」サンプルに対して教師ありファインチューニングを実行し、生成が下流タスクの性能を向上させるかを評価する。
これらの経験的結果に加え、同フレームワークは、記憶の統合を構造化された低ランク圧縮問題として、夢見を学習の幾何学を改善するメカニズムとして理論的に根拠付けられている。
参考: Google Research Blog (アーカイブ) — 2026年10月28日 02:35 (JST)
原文ハイライト"a new way for LLMs to retain knowledge in continual learning"