Tag
4 件の関連記事
arXiv cs.AIは2026年10月27日(現地時間)、言語モデルにおける推論の速度と精度を最適化する新しい手法「ThinkJev (ThinkJev)」を発表した。同研究は、直接回答する高速なシステムと、思考プロセスを挟むことで高精度を実現する低速なシステムを統合し、必要に応じて使い分けることで両者の利点を活用する。これにより、算術計算や日付比較など複数ステップを要する複雑な意思決定において、コストを抑えつつ高い信頼性を達成することを目指す。
arXiv cs.CLは10月19日(現地時間)、論文「Competing Learning in Hybrid Architectures」を公開し、現代のハイブリッドAIアーキテクチャにおける「競合学習」現象の詳細を明らかにした。この現象は、線形時間リカーレンスとソフトマックス・アテンションが特定の機能を学習する際に互いに競合し、特にリカーレンスがリトリーバル機能を迅速に習得することで、アテンションの学習が阻害される傾向があることを指摘している。同論文は、この問題を緩和する段階的な学習手順を提案している。
arXivは10月13日(現地時間)、言語モデルがトレーニングデータ内の機密情報をどのように記憶し、開示するかに関する研究論文を発表しました。この研究では、既知の機密情報を含む合成トレーニング記録である「カナリア」の測定が、その情報提示方法に大きく依存することを示しています。秘密情報がトレーニング入力に提供されるか否かが、モデルの学習内容に強い影響を及ぼすことが明らかになりました。
テック業界ニュースレター「Interconnects」が2026年5月7日(現地時間)に報じた内容によると、中国のAI研究室では米国とは異なる独自の企業文化と研究者の思考様式が観察されている。筆者のネイサン・ランバート氏は、中国の大手AI研究室を訪問した際の知見を共有。中国企業が大規模言語モデル（LLM）技術の急速なキャッチアップと維持に長けている背景には、教育と仕事における長年の文化的伝統、そして技術企業構築への独自のアプローチがあると指摘した。