シンキング・マシーンズ（Thinking Machines）は7月15日(現地時間)、Hugging Face上で大規模マルチモーダル言語モデル「Inkling」を公開した。このInklingは、約1兆（1T）のパラメータを有し、画像、テキスト、音声の各入力をネイティブに受け入れる初のオープンモデルとされる。1M（100万）のコンテキストウィンドウとエージェント機能を標準で備えている。
Inklingは、45兆トークンに及ぶテキスト、画像、音声、ビデオのデータセットで学習されており、異なるモダリティ間での推論能力を重視して設計されている。
モデルのアーキテクチャとしては、デコーダーオンリーのマルチモーダルMixture-of-Experts（MoE）モデルを採用。総パラメータ数は975B（9750億）、アクティブパラメータ数は41B（410億）に達する。256個のエキスパートを内蔵し、Relative attention、Hybrid attention、Short convolutionといった独自のアーキテクチャ特徴を備えている。
視覚理解機能では、階層型MLPパッチファイアを用いて画像を処理し、音声理解機能ではディスクリートメルスペクトログラムを利用して音声を解釈する。これらのマルチモーダルタワーは、各モダリティに独立したエンコーダーを用いる他モデルとは異なり、比較的シンプルなモジュールで構成されている。画像入力には、ビデオ処理に対応するための時間次元も含まれる。
推論環境に関しては、Hugging Faceのtransformersライブラリにリリース当初からサポートが提供されているほか、SGLang、vLLM、llama.cppといった主要な推論エンジンでも利用可能だ。動作には、BF16チェックポイントで2TB、NVFP4バージョンでは600GBのVRAMが必要となる。デプロイメントは、Hugging Face Inference Providersのようなサーバーレス推論ルーターを通じた利用や、llama.cpp用のggml quantsによるローカルデプロイも可能。transformersでは、reasoning_effort引数を調整することで、多様な推論タスクに対応できる。
Inklingの登場は、大規模マルチモーダルモデルがこれまで主にクローズドな環境で提供されてきた中で、オープンモデルとして新たな選択肢を提示する。1Mコンテキストウィンドウとエージェント機能の組み合わせは、例えば長尺のドキュメント、複雑なコードベース、複数のモダリティにまたがる対話履歴など、広範な情報源から高度な推論を必要とするタスクにおいて新たな活用シナリオを開拓する可能性がある。
一方で、BF16で2TB、NVFP4で600GBというVRAM要件は、一般的な企業が自社環境で運用するには高いハードルとなる。しかし、Hugging Face Inference Providersのようなサーバーレス推論サービスや、llama.cppによるローカルデプロイの選択肢が提供されていることは、導入の柔軟性を示唆している。実務者にとっては、まずクラウドサービスでPoC（概念実証）を実施し、特定のユースケースでの費用対効果を検証した上で、必要に応じてローカルデプロイを検討する段階的な導入戦略が現実的だろう。また、reasoning_effort引数をタスクの複雑性に応じて適切に制御することで、推論コストと精度のバランスを最適化する運用が求められる。
参考: Hugging Face Blog (アーカイブ) — 2026年7月15日 20:09 (JST)