ウェブワールドモデル、予測の妥当性だけでは不十分と指摘し安全性評価の新手法を提案
ジーフェイ・フー (Zhifei Hu) 氏らは10月29日(現地時間)、ウェブワールドモデル (Web World Models) における予測の妥当性だけでは、安全な意思決定には不十分であるとする研究論文「Beyond Plausible Prediction: Safety Sufficiency in Web World Models」をarXivで発表した。既存モデルが示す偏った権限付与行動に対処するため、安全性評価ベンチマーク「セーフウェブワールド (SafeWebWorld)」と、潜在的な権限構造を回復する手法「レイテント・オーソライゼーション・リカバリー (Latent Authorisation Recovery、LAR)」を提案している。