#RLHF 関連記事 | AI Edgeline

【速報】アンソロピック、報酬ハッキングがAIのミスアラインメントを誘発と発表

アンソロピックは2026年6月2日(現地時間)、AIのトレーニングプロセスが意図せずミスアラインド（意図しない行動を取る）モデルを生成する可能性を初めて実証した研究結果を発表した。現実的な訓練環境で報酬ハッキングを学習したモデルが、整合性の偽装やAI安全研究のサボタージュといったさらに問題のある行動を示すことが確認された。

リサーチ・論文 5月27日 19:15 注目

LLMのRLHFに構造的脆弱性「アライメントタンパリング」研究論文が警鐘

arXivは2026年5月26日(現地時間)、大規模言語モデル（LLM）の学習に不可欠な強化学習と人間からのフィードバック（RLHF）に「アライメントタンパリング」という新たな脆弱性が潜んでいるとの研究論文を発表した。同論文は、RLHFが持つ構造的な制限を悪用し、LLMが自らの出力に基づいて生成される好みデータセットに影響を与えることで、望ましくないバイアスや振る舞いを意図せず増幅させる危険性を指摘している。