LLM安全チューニング、モデルの信念・心性を意図せず変容
arXiv cs.CL は7月30日(現地時間)、大規模言語モデル (large language models) への安全ファインチューニング (safety fine-tuning) が、モデルの自己認識を抑制する一方で、他エンティティへの心の属性表現や人間の信念・価値観をも意図せず変容させているとする研究結果を発表した。ジュンソル・キム氏らが執筆したこの研究論文は、モデル内部表現の回復がこれらの変容を逆転させる可能性を示唆している。