arXiv cs.AIは2026年6月2日(現地時間)付けで提出された論文で、オープンウェイト大規模言語モデル（LLM）のファインチューニング時に頻発する安全アライメントの弱体化という課題に対し、革新的な解決策「SafeGene」を発表した。SafeGeneは、モデル固有の修復ではなく、タスク横断的に再利用可能な安全性アダプターモジュールとして機能するよう設計されており、アーキテクチャ互換性のあるモデルファミリー全体でその有効性を示している。これにより、LLMの安全性を効率的に維持しつつ、多様なカスタム利用への適応を可能にする。
オープンウェイトLLMは、その柔軟性から特定の用途に合わせたカスタムアシスタントへとファインチューニングが盛んに行われている。しかし、この適応プロセスにおいて、モデルが持つべき安全アライメントが損なわれるという深刻な問題が指摘されている。具体的には、悪意のあるプロンプトや不適切な入力に対してモデルが脆弱になり、予期せぬ有害な応答を生成するリスクが増大する。この現象は、たとえ初期の学習データに意図的な害意がなかったとしても発生し、モデルが新たなタスクデータやユーザーインタラクションを通じて更新されるたびに、その安全性を再構築する必要があるという「安全性回復問題」を繰り返し引き起こしてきた。
この継続的な課題に対処するため、Yanghan Wang氏らの研究チームは、独創的なアプローチである「SafeGene」を提案した。SafeGeneは、安全性回復を従来のモデル固有の複雑な修復ステップとしてではなく、タスク固有の更新から完全に切り離された、独立した再利用可能なアダプター表現として捉えることを提唱している。このアプローチの根幹には、安全にアラインされたモデルと、ファインチューニングによって安全性が劣化したモデルとの間に生じる不一致を効果的に捉えるという思想がある。
具体的には、SafeGeneの表現は、これら両モデル間の不一致から抽出される。この抽出された情報は、データ認識型レイヤー選択メカニズムを通じて、タスク転送可能な安全性ベクトルへと洗練される。さらに、この安全性ベクトルは、少数のサンプルを用いたレイヤーごとの係数再較正というプロセスを経て、ダウンストリームのタスク適応モデルへと効果的に組み込まれる。この一連のプロセスにより、既存のモデルアーキテクチャに大きな変更を加えることなく、外部から安全性を「注入」することが可能となる。
研究チームは、SafeGeneの有効性を検証するため、複数のモデルファミリー、多様なダウンストリームタスク、および複数の安全性評価者を用いた広範な実験を実施した。その結果、SafeGeneを組み込むことで強化されたモデルは、有害な応答を生成する確率が顕著に低減されると同時に、本来のダウンストリームタスクにおける性能を高いレベルで維持できることが実証された。さらに、安全性と実用性の間でトレードオフが発生しやすい従来の安全適応手法と比較して、SafeGeneは両側面において既存の代表的な手法を上回る性能を示すことが確認された。この成果は、オープンウェイトLLMの普及に伴う安全性懸念に対し、実用的かつ効率的な解決策を提供するものとして注目される。
参考: arXiv cs.AI — 2026年6月8日 13:00 (JST)
原文ハイライト"SafeGene: Reusable Adapters for Transferable Safety Alignment"