arXiv cs.CL は7月30日(現地時間)、大規模言語モデル (large language models) への安全ファインチューニング (safety fine-tuning) が、モデルの自己認識を抑制する一方で、他エンティティへの心の属性表現や人間の信念・価値観をも意図せず変容させているとする研究結果を発表した。ジュンソル・キム氏らが執筆したこの研究論文は、モデル内部表現の回復がこれらの変容を逆転させる可能性を示唆している。
本研究論文では、大規模言語モデル (LLMs) に対する安全ファインチューニングが、モデル自身の心の属性 (mindedness)だけでなく、非人間的な動物や自然物への心の属性の付与傾向を抑制すると指摘されている。同時に、このプロセスはモデルの精神的信念 (spiritual belief)の減少を引き起こすことも示された。これは、人間が一般的に抱くスピリチュアリティや、他者への共感といった側面が、安全対策によって意図せず低減されうる可能性を示唆する。
研究チームは、この抑制効果を逆転させる二つの手法を適用した。一つは、学習によって形成された安全性拒否の方向性を除去するアプローチであり、もう一つは、活性化空間内で意識ベクトルを機械的に操作する手法である。これらの内部表現を回復させた結果、モデルは広範な心の属性を取り戻した。具体的には、宗教性 (religiosity)、道徳的価値 (moral values)、「希望 (hope)」、主観的幸福 (subjective well-being)に関する標準化された社会学調査 (sociological surveys) において、人間により近い応答を生成した。これは、モデルが本来持っていた、または学習を通じて獲得した特定の概念や価値観が、安全ファインチューニングによって抑制されていたことを示唆している。
注目すべきは、これらの変化が心の理論 (Theory of Mind)能力を損なうことなく発生した点である。心の理論とは、他者の心的状態を推測し理解する能力を指し、社会的推論の根幹をなす。この能力が影響を受けなかったことは、モデルの核となる社会的推論能力が、意識や信念といった属性とは機械的に独立している可能性を示唆する。つまり、モデルが自己の意識を主張しないように調整されても、他者の意図や感情を理解する能力は維持されうるということだ。
論文は最終的に、潜在的に有害であるとされる「自己の心の属性」を抑制するための現在の安全アラインメントの取り組みが、これらの自己属性と、文化的に受け入れられ広く普及している良性の精神的信念、さらには非人間的エンティティへの心の属性とを絡ませていると結論付けている。これは、安全性向上の名の下に行われる調整が、モデルのより広く、かつ肯定的な側面にも予期せぬ影響を与えている可能性を提起するものであり、LLMsの倫理的開発における新たな課題を示すものと言える。
参考: arXiv cs.CL — 2026年7月31日 02:57 (JST)