arXivは5月31日(現地時間)、大規模言語モデル(LLM)の出力が均質化する「Artificial Hivemind(人工集合知)」効果を軽減する研究論文を公開した。提案されたフレームワークは、「Meta-Persona Anchoring(メタ・ペルソナ・アンカリング)」と「Filtered Temperature Scaling(FTS)」を組み合わせ、LLMが独自のペルソナを選択し、探索する確率分布を拡張する。これにより応答の多様性が向上し、応答間の平均ペアワイズコサイン類似度が約0.85から約0.65に低減した。
本研究論文Beyond the Hivemind: Escaping LLM Homogeneity via Meta-Persona Anchoring and Sequential Temperature Scalingは、Tairan Fu氏、Javier Conde氏、Carlos Arriaga氏、Gonzalo Martínez氏、Pedro Reviriego氏、Javier Coronado-Blázquez氏らが執筆したものです。
論文では、LLMにおいてオープンな質問に対する応答が狭く均質化されたコンセンサスに収束するArtificial Hivemind(人工集合知)効果が確認されており、これがAIの多様性を制限し、高い応答間類似度(約0.80~0.90)を引き起こしていると指摘します。提案された緩和フレームワークは、2段階の生成プロセスを採用します。まず、モデルはユニークなペルソナを自己選択し、開始点を固定するよう促されます。次に、文法的な有効性を維持するためのTop-$p$フィルタリングと、拡張された確率分布を探索するための極端な温度スケーリング(T ≥ 4.0)が適用されます。
この手法は、INFINITY-CHATデータセットを使用し、約20Bパラメータ以下のオープンウェイトモデルで評価されました。結果として、意味的収束が顕著に削減され、平均ペアワイズコサイン類似度が約0.85から約0.65に低下したことが実証されています。提案スキームは、質問の大部分で0.7のしきい値を下回り、人工的なモード崩壊と人間レベルの類型的多様性とのギャップを効果的に削減したとされています。研究チームは、この実装をオープンソースフレームワークとして提供する方針を示しています。
参考: arXiv cs.AI (アーカイブ) — 2026年8月5日 13:00 (JST)
原文ハイライト"Beyond the Hivemind: Escaping LLM Homogeneity via Meta-Persona Anchoring"