リサーチ・論文

MoE向け新アーキテクチャ「UniPool」、グローバル共有エキスパートプール導入

arXiv cs.LGは2026年5月7日(現地時間)、Minbin Huang氏らがMixture-of-Experts (MoE) アーキテクチャの新しい設計「UniPool」を提案したと報じた。UniPoolは、従来層ごとに独立していたエキスパートセットをグローバルな共有プールとして扱い、各層のルーターからアクセスさせる構造を持つ。この設計変更により、LLaMAアーキテクチャの多様なモデルスケールにおいて、既存のMoEと比較して検証損失とパープレキシティの改善が確認された。

ポッドキャスト・動画

Practical AIがモデルの「オープンvsクローズド」論争と物理AIの台頭を議論

ポッドキャスト「Practical AI (Changelog)」は2026年5月7日(現地時間)付けで、オープンモデルとクローズドモデル間の「モデル戦争」の重要性が薄れている可能性について議論した。番組の共同ホストであるダニエル・ウィットナック氏とクリス・ベンソン氏は、物理AIとエッジデバイスの台頭、LLaMAのようなオープンソースモデルの状況変化、そしてエージェントシステム、ワークフロー、AI駆動型インフラストラクチャへの大きな変革について見解を示している。この議論は、現代のAIにおける主要な問いの一つに焦点を当てている。