Tag
5 件の関連記事
Tencentは7月6日(現地時間)、Apache 2.0ライセンスに基づく大規模言語モデル「Hy3」を公開した。Simon Willison's Weblogが報じた。Hy3は、総パラメータ数2950億を誇るMixture-of-Experts（MoE）モデルで、アクティブパラメータ210億、MTPレイヤーパラメータ38億を持つ。Tencent Hy Teamが開発したこのモデルは、同規模の既存モデルを凌駕し、パラメータ数で2〜5倍の主要なオープンソースモデルに匹敵する性能を持つとTencentは説明している。
Mistral AIは2026年7月2日(現地時間)、形式検証と定理証明に特化したモデル「Leanstral 1.5」をリリースした。同モデルは6Bのアクティブパラメータを持ち、PutnamBenchの672問中587問を解決。FATE-Hで87%、FATE-Xで34%を達成し、それぞれで新たなSOTAを記録した。Apache-2.0ライセンスでオープンソースとして公開され、無料APIでも提供される。
JetBrainsは2026年5月31日(現地時間)、自然言語とコードでゼロから学習した12BパラメータのMixture-of-Experts (MoE) モデル「Mellum2」を発表した。このモデルは、トークンごとに2.5Bのパラメータのみをアクティブにするため、高スループットかつ低レイテンシーの推論に効率的である。Apache 2.0ライセンスのもとで公開された。
Cohereは2026年5月20日(現地時間)、企業向けに設計された大規模言語モデル「Command A+」をApache 2.0ライセンスのもと、オープンソースとして公開した。このmixture-of-experts (MoE) アーキテクチャを採用したモデルは、複雑な推論、マルチモーダル処理、多言語エージェントタスクに対応する。開発者がエンタープライズグレードのエージェント機能を直接利用できるよう、Hugging Faceを通じてモデルの重みが提供され、専用のマネージド推論環境であるModel Vaultでのデプロイも可能。前世代モデルを上回る性能向上と効率性を両立している。
IBMは2026年5月4日(現地時間)、オープンソースライセンスの多言語埋め込みモデル「Granite Embedding Multilingual R2」を発表した。このリリースには、ModernBERTを基盤とする2つのモデルが含まれる。97Mパラメータのコンパクトモデルは、MTEB Multilingual Retrievalにおいてオープンな100Mパラメータ未満の全埋め込みモデル中で最高スコアを記録した。また、311Mパラメータのフルサイズモデルも公開され、両モデルともに200以上の言語をサポートし、52言語で強化された検索品質、32Kトークンのコンテキスト長、Apache 2.0ライセンスでの提供が特徴である。