Tag
6 件の関連記事
Hugging Face Blogは2026年10月21日(現地時間)、Small Language Models (SLM) の語彙を特化させる新手法「VocabX (VocabX)」に関する研究結果を報じた。この手法により、既存のベースモデルを変更せずに推論コストを最大で77%削減できる可能性がある。同記事は、汎用モデルの語彙が特定のドメインに特化したモデルの運用において非効率である点を指摘している。
MedPAO-Assistの研究開発チームは10月17日(現地時間)、医療画像診断レポートの構造化を支援するエージェント型AIフレームワーク「MedPAO-Assist」を発表しました。従来のクラウドベースの大規模言語モデルに依存せず、エッジ環境での動作に特化。データプライバシーの確保とオフライン運用を求める医療現場のニーズに応え、口述や音声コマンドから直接、標準化されたレポート生成を可能にします。
arXiv cs.AIは2026年10月1日(現地時間)、Jundong Hu氏とShekar Ramachandran氏らの研究論文を公開した。大規模言語モデル(LLM)のプランナーを補完するマイクロタスクにおいて、市販の小規模言語モデル(SLM)が実務家定義の閾値を満たさない「適格性ギャップ」が存在すると報告している。Qwen3やLlama-3.xモデルを用いた評価では、テストされた全ての構成で合格に至らなかった。
セバスチャン・ラシュカ (Sebastian Raschka) 氏は8月15日(現地時間)、自身のウェブサイトで、人工知能 (AI) テキスト検出器をゼロから構築する詳細なプロジェクトに関する記事を公開した。サブスタック (Substack) などが検出機能を導入する現状を受け、検出器の基本的な仕組みを解説するもの。機械が生成したテキストを回避し、人間による執筆を向上させる目的でファインチューニングされた小規模言語モデルの訓練に用いる検証器としての応用も示されている。
arXiv cs.CLが2026年7月22日(現地時間)付けで報じたところによると、大規模言語モデル (LLM) と小規模言語モデル (SLM) の協調推論フレームワーク「PyroDash」が発表された。このフレームワークは、LLMの持つ高い推論能力とSLMの低コストという利点を組み合わせることで、推論コストを削減しつつ精度を維持、または向上させることを目的としている。PyroDashはトークンレベルでのSLM-LLM連携を通じて、SLMがアシスタンスを要求するかを判断し、Collaborate Engineを介してLLMに処理をオフロードする仕組みを持つ。
Jaideep Ray氏は2026年5月20日(現地時間)、論文「The Constraint Tax: Measuring Validity-Correctness Tradeoffs in Structured Outputs for Small Language Models」を発表し、小型言語モデル (SLM) に見られる「constraint tax (制約税)」現象を提唱した。構造化出力が求められるSLMにおいて、厳格な出力制約を課すと、スキーマ妥当性は高まる一方で回答精度が大幅に低下することを指摘。この課題がプロダクション環境でのSLM導入において重要性を持つとした。