Austin C. Kozlowski氏らは2026年11月4日(現地時間)にarXivで、大規模言語モデル(LLMs)が特定のペルソナを採用することで、その内部表現空間の幾何学的構造が変化する可能性を示す研究論文を発表した。同氏らは、従来のLLMの監視手法が前提とする「文脈を超えた一貫した特徴表現」とは異なり、モデルがペルソナを柔軟に採用することで、概念的関係の根底にあるシステムが変化する可能性を指摘。この変化が、真実性や道徳性といった安全性に関連する特徴の評価に影響を与えうるとした。
この研究では、LLMにリベラルと保守の政治的ペルソナを採用させ、9,000以上の一般単語と33のセマンティック軸の表現を抽出し、二つの中立なベースラインと比較した。その結果、ペルソナの適用が、単語のセマンティック軸への投影と軸間の整合性を、指定されたイデオロギーに合致する方向に体系的に変化させることが確認された。
研究チームは、この表現の再編成が安全性に関連する真実性(truthfulness)と「道徳性(morality)」の二つの特徴に与える影響を検証した。線形プローブ、SAEベースの分類器、および手動で選択された単語表現から構築された分類器は、いずれもペルソナなしで訓練されたものだが、政治的ペルソナを適用したモデルに適用された場合、論争のある発言に対する真実性および道徳性の評価において、政治的に偏った結果を生み出した。
これらの発見は、従来の方法で抽出されるLLMの内部表現が、モデルがペルソナを採用する際に異なる幾何学的関係を示す可能性を意味する。これは、LLMの挙動を監視しようとする既存の取り組みを損なう可能性があると、論文は示唆している。
参考: arXiv cs.CL (アーカイブ) — 2026年11月5日 03:05 (JST)
原文ハイライト"persona conditioning systematically alters both the projections of words onto semantic axes"