arXivは2026年8月13日(現地時間)、倫理的に許容される後学習データのみで訓練された10億パラメーター規模の言語モデル「DFM Mimir v1」に関する論文を公開しました。このモデルは、階層的推論モデル (HRM) アーキテクチャに基づいてゼロから開発され、英語ベンチマークで競争力のある性能を示し、デンマーク語では新たな最先端性能を確立したと報告されています。
DFM Mimir v1は、既存の大規模言語モデル開発が直面する、非許容データセットへの過度な依存という課題に対応するために開発されました。本モデルは、161の厳選されたデータセットを独自の混合比で訓練に利用し、データの倫理性と透明性を確保しています。データ利用の制約から高性能化に苦慮する従来のオープンソースモデルとは異なり、Mimir v1はオープンなデータ利用とフロンティア性能の両立を目指した画期的な取り組みと位置づけられています。
性能評価は、英語、数学・コード、デンマーク語を含む20の多様なベンチマークで実施されました。その結果、DFM Mimir v1は、同規模の既存モデルであるHRM-Text 1Bを明確に上回る性能を発揮しました。さらに、Qwen 3.5 4BやGemma 4 E2Bといった、より大規模なフロンティアモデルとも複数のタスクで競合する性能を示しています。特にデンマーク語においては、既存モデルを凌駕し、この分野における新たな最先端 (State-of-the-Art) を確立したとされています。
本モデルのアーキテクチャである階層的推論モデル (HRM) が特徴です。従来のトランスフォーマーモデルとは異なる構造を採用することで、効率的な学習と推論を実現しながら、複雑な言語タスクに対応できる能力を獲得しました。論文では、このHRMアーキテクチャが、倫理的なデータのみを使用しつつ、いかにして高性能を達成したかが詳細に分析されています。
DFM Mimir v1のモデルデータは、Hugging Face Hubを通じてオープンに公開されており、研究者や開発者が自由にアクセスし、検証、さらには自身のプロジェクトに組み込むことが可能です。この公開は、透明性の高いAI開発を促進し、より広範なコミュニティが倫理的なAIモデルの構築に参加することを促すものです。
参考: arXiv cs.CL (アーカイブ) — 2026年8月14日 02:37 (JST)
原文ハイライト"An Open HRM Delivering Frontier Performance at 1B Parameters Using Only Permissible Post-Training Data"