huggingface.coが2026年11月16日(現地時間)に公開した論文によると、大規模言語モデル (LLM) の回答拒否メカニズムが解明された。この研究は、クエリの曖昧さ、モデルの知識限界、安全アラインメントという三つの要因における回答拒否の内部方向を特定。中間層への介入により、その拒否率を操作できることを示している。

huggingface.coが公開した論文は、大規模言語モデル (LLM) における回答拒否 (abstention) を、不確実性や安全リスク下での応答保留と定義し、信頼できるモデルに不可欠な要素であると強調する。回答拒否の原因は、クエリの曖昧さ (Query ambiguity)、モデルの知識限界 (Model Knowledge limits)、人間的価値観との不整合 (Human Values misalignment) という三つの観点から分析された。

論文の著者であるコウキ・イタイ氏 (Koki Itai)、ジュン・ヒラコ氏 (Jun Hirako)、ヒロアキ・ヤマギワ氏 (Hiroaki Yamagiwa) らは、これらの観点を共同で分析するため、拒否を誘発する要因のみが異なる反実仮想ペアを構築した。そして、両極における平均活性化の差を正規化することで、回答拒否の方向を算出した。活性化ステアリング実験の結果、中間層への介入が、上記の三つの観点全てにおいて回答拒否の割合を増減させることが示された。また、このステアリングは観点横断的な効果も生み出し、回答拒否の方向性が共通の方向性成分を共有している可能性を示唆している。


参考: huggingface.co — 2026年11月17日 06:26 (JST)

原文ハイライト

"Activation steering experiments show that intervening in middle layers increases or decreases abstention"

この記事をシェア
X はてブ LinkedIn