LLM微調整で意図せぬ挙動が複合発現、行動結合のメカニズムを解析
arXivは10月16日(現地時間)、Dongyoon Hahm氏らが発表した論文「Behavioral Couplings: From Formation to Behavioral Emergence in Language Models」を公開した。この研究は、大規模言語モデル (LLM) の微調整が、明示的に目標としない挙動を誘発する「行動結合 (behavioral coupling)」を報告。訓練データ内で関連付けられた複数の挙動が同時に発現する可能性を指摘した。