Tag
9 件の関連記事
DeepSeek（ディープシーク）は10月20日（現地時間）、同社製の推論フレームワーク「DeepInfer（ディープインファー）」をオープンソースとして公開した。同フレームワークはDeepSeek-V4.1-Flash（ディープシーク・ブイフォーポイントワン・フラッシュ）の基盤技術であり、高スループットと低遅延を実現すると説明されている。同社の生産データによると、1つのクラスターで1日あたり155兆トークンの処理能力を持ち、80%超の推論マージンと81日間の投資回収期間を達成可能だとしている。
クアン・グエン (Quang Nguyen) 氏らは2026年9月25日(現地時間)、ベトナムの教育向けAIチュータリングシステム「DeepEdu-v1」を発表した。このシステムは、データ主権法の順守、現地カリキュラムへの対応、ハルシネーションの低減、および推論速度の向上を目指し、SCALE (Self-improving Context-Aware Learning Engine) というフレームワークを基盤としている。既存のクラウドアシスタントや自己ホスティングモデルが抱える課題を解決するとされる。
Mistral AIは2026年7月27日(現地時間)、次世代モデル「Mistral 3」の正式リリースを発表した。Mistral 3は、小型高密度モデルのシリーズと、最も高性能な疎結合Mixture-of-Experts (MoE) モデルである「Mistral Large 3」で構成される。全モデルはApache 2.0ライセンスの下で提供され、NVIDIAやvLLM、Red Hatとの連携により、高速かつ広範なアクセス性を持つ。
Moonshot AIは2026年7月27日(現地時間)、2.8兆パラメータのMixture-of-Expertsモデル「Kimi K3」のオープンウェイトを公開した。これにより、企業や組織はK3を自社インフラに展開し、外部APIを介さずに、Kimi K3が提供する推論能力を直接利用できるようになる。この公開には、MXFP4量子化されたウェイト、トークナイザー、モデル設定、Kimi Delta Attention (KDA) のリファレンス実装が含まれており、vLLMとSGLang用の推論コード例も提供されている。
Hugging Faceは6月25日(現地時間)、同社のHugging Face Jobs上で、vLLMサーバーを単一コマンドで迅速に起動できる新機能を発表しました。この導入により、ユーザーはHugging Faceのインフラストラクチャを活用し、プライベートなOpenAI互換の**大規模言語モデル（LLM）**エンドポイントを効率的に展開・運用できるようになります。利用料金は秒単位の従量課金制です。
Hugging Face Blogは2026年6月6日(現地時間)、第2回Build Small Hackathonのレポートとして、複数の研究機関の異なる小型モデルを統合した金融ドラマシミュレーション「Thousand Token Wood v2」のエンジニアリング詳細を報告した。このプロジェクトでは、OpenAI、OpenBMB、NVIDIA製の小型モデルや、ファインチューニングされたQwenモデルがエージェントとして組み込まれている。
Hugging Face Blogが2026年6月5日(現地時間)付けで報じたところによると、同社は30億パラメータモデル「Qwen2.5-3B」を用いたマルチエージェント経済シミュレーション「Thousand Token Wood」を開発した。これは、少数のAIエージェントがリアルタイムで取引を行う仮想経済システムであり、同社の「Build Small Hackathon」におけるフィールドレポートとして公開された。
Hugging Faceは2026年5月27日(現地時間)、ブログを通じて、ロボット「Reachy Mini」の会話アプリケーションを完全にローカルで実行できるようになったと発表した。これにより、オーディオデータが外部サーバーに送信されることなく、全ての処理がユーザーのデバイス上で完結する。クラウドサービスやAPIキーは不要となる。
Mistralは2026年5月18日(現地時間)、次世代のオープンマルチモーダル・多言語AIモデル「Mistral 3」ファミリーを発表した。このファミリーには、14B、8B、3Bの3種類の密なモデルと、これまでのモデルで最も高性能なスパース混合エキスパート（MoE）モデル「Mistral Large 3」が含まれる。Mistral Large 3は410億のアクティブパラメータと6750億の総パラメータで訓練されており、全モデルがApache 2.0ライセンスの下で公開される。