Hugging Faceは2026年11月9日(現地時間)、ブログで決定モデルのサポートを開始したことを発表した。この新しいモデルタイプは、大規模言語モデル (LLM) とは異なり、テキスト生成なしに特定の選択肢に対する確率分布を直接評価する。これにより、顧客サポートシステムのような特定の選択を必要とするアプリケーションでの効率と信頼性の向上が期待される。
決定モデルは、入力コンテキスト（state）を受け取り、事前に定義された回答のセット（primitives）に基づいて質問を評価し、確率とともに構造化された決定を返す。従来のLLMがテキストをトークンごとに生成するのに対し、決定モデルはアプリケーションが既に理解している回答に確率を割り当てる。TypeSafe AIがSystem One modelとして導入した「Jev」もこの分野のモデルであり、コミュニティでは「decision model」という用語が定着している。
LLMを分類やルーティングなどの構造化タスクに利用する場合、いくつかの課題がある。LLMは要求されたJSONスキーマに必ずしも従わず、無効な出力や予期しないキーを生成する可能性がある。OutlinesやXGrammarといったライブラリによる制約付きデコーディングは構造的制約を強制できるものの、計算オーバーヘッドが発生する。また、アプリケーションが事前に定義された回答の中から選択するだけで良い場合、LLMのオープンエンドな生成機能は不必要な作業となる。
決定モデルは、従来の分類モデルやゼロショット分類モデルとは異なる機能を提供する。従来の分類モデルでは出力クラスがモデルの分類ヘッドに組み込まれており、新しい部門を追加する際にはモデルの修正や再学習が必要となる。ゼロショット分類は推論時に候補ラベルを供給できるため、この制約の一部を解消する。決定モデルはさらにこの概念を拡張し、同じstateに対して異なる回答タイプ（選択肢、スコアリング、真偽の推定など）を持つ複数の質問を受け入れる。そのインターフェースは、可能な決定に対する確率分布を中心に設計されている。
参考: Hugging Face Blog — 2026年11月10日 09:00 (JST)
原文ハイライト"We could ask an LLM to return a JSON object containing these answers."