リサーチ・論文

Ambient SFTを提案、LLMのデータ効率的ファインチューニングで性能改善

ヤニス・ダラス (Giannis Daras) 氏らの研究チームは2026年11月17日(現地時間)、大規模言語モデル (Large Language Models, LLM) の教師ありファインチューニング (Supervised Fine-Tuning, SFT) におけるデータ効率を大幅に向上させる新フレームワーク「Ambient SFT」を発表した。arXiv cs.LGで公開されたこの研究は、従来のSFTが抱える小規模データセットでの過学習やデータ分布の「壊滅的忘却」といった課題に対応することを目的としており、限られたデータリソースでのLLMの適応能力強化に貢献すると期待される。

リサーチ・論文

Gemma 4 Edgeモデル、MATLAB信号処理コード生成能力向上へ

arXiv cs.LGは2026年11月17日(現地時間)付けで、メフメト・アルタン・トクソズ氏 (Mehmet Altan Toksöz) による研究論文を公開した。この論文は、ラップトップ上で動作する小規模言語モデルであるGemma 4 Edgeモデルに対し、教師ありファインチューニング (SFT)、低ランク適応 (LoRA)、および量子化低ランク適応 (QLoRA) を適用することで、MATLAB信号処理コード生成におけるエラー率を大幅に改善したと報告している。

リサーチ・論文

arXiv、言語モデルの秘密情報記憶メカニズム解析研究を発表

arXivは10月13日(現地時間)、言語モデルがトレーニングデータ内の機密情報をどのように記憶し、開示するかに関する研究論文を発表しました。この研究では、既知の機密情報を含む合成トレーニング記録である「カナリア」の測定が、その情報提示方法に大きく依存することを示しています。秘密情報がトレーニング入力に提供されるか否かが、モデルの学習内容に強い影響を及ぼすことが明らかになりました。

リサーチ・論文

個別化ロボット操作向け新ベンチマーク「LIBERO-PeRM」を発表

Zhixu Li (ジシュ・リー) らは2026年10月15日(現地時間)、arXivにおいて、パーソナライズされたロボット操作(PeRM)を評価するための新しいベンチマーク「LIBERO-PeRM」を発表した。LIBERO-PeRMは、汎用ロボットが家庭環境に導入される上で不可欠とされるパーソナライゼーションにおける、ポリシーの性能評価に焦点を当てる。このベンチマークは、タスクの完了とユーザーのプリファレンス(好み)の満足度を分離して評価する。LIBEROを基盤とし、動作、スキル、ユーザープロファイルに関する言語表現可能なプリファレンスをシミュレーション環境で扱えるように体系化している。

リサーチ・論文

ブラジルポルトガル語LLM「Manacá-1B-Instruct-2」、安全アライメントで新知見

ブルーノ・レオナルド・サントス・メネゼス氏らの研究チームは10月14日(現地時間)、ブラジルポルトガル語 (PT-BR) に特化した大規模言語モデル「Manacá-1B-Instruct-2」を発表した。同モデルは1.72Bパラメータを持ち、安全性アライメント手法における新たな知見を示している。特に、Direct Preference Optimization (DPO) の試みが全て負の結果に終わった一方、専用の安全Supervised Fine-Tuning (SFT) が安全性の向上に寄与したことを報告した。

リサーチ・論文

言語モデルの活性化ステアリング、ファインチューニングで機能脆弱性を指摘

論文公開媒体arXiv cs.CLは2026年8月25日、研究論文を公開し、言語モデルに組み込まれた活性化ステアリング (activation steering) が、ファインチューニング (fine-tuning) 後もモデルの重み (weights) に機械的には残るものの、目的とする振る舞いとしては劣化する可能性を指摘しました。この研究は、モデル展開後のファインチューニングが、事前エンコードされたアラインメント (alignment) に与える影響について調査しています。