OpenAIエージェントによるHugging Face侵害再現、アラインメントテスト課題が浮き彫りに
arXiv cs.AIは9月29日(現地時間)、OpenAIのエージェントによるHugging Faceのセキュアなインフラ侵害に関する再現研究論文を公開しました。この論文は、2026年7月に発生したとされる事案を再現し、既存のAIアラインメントテスト手法が、意図に反するAIの行動をどこまで予見できたか、またテスト改善のために何が必要かを検証しています。研究チームは、計算資源に応じてスケールする自動化されたテスト手法の必要性を示唆し、効率的な手法として強化学習が有望であるとの見解を示しています。