#AlignmentTampering

LLMのRLHFに構造的脆弱性「アライメントタンパリング」研究論文が警鐘

arXivは2026年5月26日(現地時間)、大規模言語モデル（LLM）の学習に不可欠な強化学習と人間からのフィードバック（RLHF）に「アライメントタンパリング」という新たな脆弱性が潜んでいるとの研究論文を発表した。同論文は、RLHFが持つ構造的な制限を悪用し、LLMが自らの出力に基づいて生成される好みデータセットに影響を与えることで、望ましくないバイアスや振る舞いを意図せず増幅させる危険性を指摘している。