Ivan Moshkov氏らの研究グループは2026年9月9日(現地時間)、国際数学オリンピック (IMO) レベルの難解な数学問題を解く大規模言語モデル (LLM) の訓練手法に関する研究論文を、プレプリントサーバーarXiv cs.AIで公開した。同研究で提示されたNemotron 3 Ultraを基盤とするシステムは、IMO 2026で42点中30点を獲得し、金メダルの閾値に達した。
この研究は、国際数学オリンピック (IMO: International Mathematical Olympiad) のような難易度の高い数学問題に対し、自然言語による証明を生成するモデルの訓練後プロセスとテスト時の推論設計が、その性能にどのように影響するかを深く掘り下げたものだ。
研究グループは、Nemotron 3 Ultraを初期モデルとして採用し、教師ありファインチューニング (supervised fine-tuning) と強化学習 (reinforcement learning) の手法を用いて、特定の課題に特化した2つのスペシャリストチェックポイント (specialist checkpoints)を訓練した。これらのチェックポイントの選択、検証、および洗練のプロセスが詳細に評価されている。
これらの知見に基づき、研究グループはオープンモデル向けのテスト時計算パイプライン (test-time computational pipeline) を提示している。この革新的なシステムは、形式証明器、外部ツール、またはインターネットアクセスといった外部リソースを一切使用せず、完全に自然言語のみで動作する。公開されているNemotron 3 Ultraモデルと、前述の訓練後専門モデルである2つのスペシャリストチェックポイントからなる計3つのチェックポイントが、候補となる証明を生成、検証、そして洗練する反復検索プロセスを駆動する。
さらに、最終的な提出物を厳選するための独立した高性能計算ステージが設けられている。この構成により、人間が記述する証明と遜色のない高品質な数学的証明の生成を目指している。
研究グループは、本研究の透明性と再現性を確保するため、訓練後の2つのスペシャリストチェックポイントに加え、モデルの訓練データ、訓練および推論コード、そして最終的に提出された解答を全て公開した。さらに、200の新規なオリンピックレベル問題で構成される新しいベンチマークNemotron-IMO-Benchも同時に公開しており、今後の研究コミュニティによるAI数学能力の評価と発展に貢献するものと期待される。
参考: arXiv cs.AI (アーカイブ) — 2026年9月12日 13:00 (JST)