Tag
3 件の関連記事
セバスチャン・ラシュカ (Sebastian Raschka) 氏は2026年10月24日(現地時間)、推論モデル構築に関する全編ビデオコースを公開した。このコースは8本の動画、総計11時間を超えるコーディング内容で構成され、推論モデルの評価、推論時のスケーリング、強化学習、蒸留といった主要トピックをPythonとPyTorchを用いて解説する。ラシュカ氏は、現代の多くの大規模言語モデル (LLM) が推論モデルであるか、推論モードを提供しており、これらのモデルの重要性を指摘している。
Sebastian Raschka氏は2026年9月29日(現地時間)、自身の運営するブログ/マガジンにて、テキスト分類のための言語モデルの進化に関する記事を公開した。同氏は、技術コミュニティで注目を集めるAIモデル「Jev」を、従来のバグ・オブ・ワーズ（Bag-of-words）から深層学習モデルに至るまでの歴史的文脈に位置づけ、その特徴を解説している。Jevは、GPTなどの大規模言語モデル（LLM）と比較し、特定の分類タスクをより高速かつ安価に処理できる点が強みとされている。
オープンウェイトモデルKimi K3は2026年7月28日(現地時間)、そのアーキテクチャ詳細を公開した。Kimi K3は、前モデルKimi Linearの480億パラメータから2.8兆パラメータへと大幅に拡張され、現行のオープンウェイトモデルの中で最大規模となった。新アーキテクチャでは推論効率の向上が図られ、特に潜在的Mixture-of-Experts (LatentMoE)が主要なコンポーネントとして新たに導入されている。