Apple ML Research、言語モデルアラインメントの理論的限界を提示
Apple ML Researchは2026年11月12日(現地時間)、言語モデル (LM) のアラインメントにおける理論的限界に関する研究論文を公開した。この研究は、人間が設定した嗜好をモデル出力に反映させながら、基盤モデルの能力を維持するアラインメント手法が持つ情報理論的な限界を詳細に特徴付けている。具体的には、KLダイバージェンス制約下での報酬改善に存在する根本的な限界を明らかにし、最大達成可能な期待報酬ゲインの数式を導出することで、アラインメント技術の基礎的理解を深めるものだ。