Manuel Prada-Corral氏らは11月18日(現地時間)、言語モデルから多様な出力サンプルを生成する新しい手法「PoolDPP」に関する論文をarXiv cs.LGで発表した。この研究は、言語モデルが個々のサンプルで高い品質を示す一方で、意味的に類似するサンプルが集中し、出力セットの多様性が低いという課題に対処するものだ。提案されたPoolDPPは、決定点過程(DPP)を導入し、候補プールの品質に基づく重み付けとサンプリングを通じて多様な生成を形式化している。

言語モデルが生成する出力の品質は著しく向上しているものの、多くの場合、その生成結果は互いに意味的に類似しており、結果として出力全体の多様性が損なわれるという課題が指摘されてきた。この問題は、特に創造性や網羅的な探索が求められるアプリケーションにおいて、言語モデルの潜在能力を十分に引き出せない要因となっている。本研究では、この多様性の欠如を克服するため、決定点過程(DPP: Determinantal Point Process)に基づく革新的なサンプリング手法「PoolDPP」を提案している。

DPPは、項目セットから多様なサブセットを選択するための確率モデルであり、各項目の品質を評価する「尤度」と、項目間の類似性に基づく「反発」の概念を組み合わせて、多様な生成を形式化する。具体的には、品質が高い項目が選ばれやすく、かつ、互いに似ていない項目が同時に選ばれやすいようにサンプリングを行う。これにより、出力の「良さ」と「バラエティ」の両方を同時に考慮した選択が可能となる。

提案されたPoolDPPは、まず言語モデルから生成された多数の候補の中から、品質スコアに基づいて有限個の候補プールを抽出する。このステップにより、計算効率を保ちつつ、有望な候補に焦点を絞ることが可能となる。次に、抽出された候補プール内の各候補に対して、その品質を示す重要度に基づいた重み付けを行う。この重み付けは、最終的なサンプリングにおいて、より高品質な候補が選択される確率を高める役割を果たす。

重み付けが行われた後、PoolDPPは「誘導されたプールカーネル」上でK-DPPサンプラーを実行する。このDPPサンプラーが、品質と多様性のバランスを考慮しながら、プールの中から最終的にK個の多様なサンプルを選択する。さらに、確定的選択が必要なシナリオのために、貪欲なMAP変種も提供されており、これは特定のタスクにおいて最適な多様なサブセットを効率的に見つけ出すことを目的としている。

PoolDPPの有効性は、複数の異なる生成タスクにおける実験を通じて実証された。オープンエンド生成タスクにおいては、従来のサンプリング手法と比較して、出力の品質を維持しつつ、顕著に多様性を向上させることが示された。これは、特にブレインストーミングやコンテンツ生成のような、多様なアイデアが求められる場面で大きな利点となる。

また、曖昧な自然言語クエリをSQLクエリに変換する「text-to-SQL」タスクの一種であるAmbrosiaベンチマークでは、PoolDPPが精度と再現率の間のトレードオフを改善する能力を示した。これは、単一の最適なSQLを生成するだけでなく、複数の妥当なSQL候補を多様に提示することで、ユーザーが適切な選択を行う手助けとなることを意味する。

さらに、数学的推論タスクであるGSM8Kベンチマークを用いた評価では、PoolDPPがほぼ同等のpass@K(正解を生成できた割合)を維持しながら、生成される推論ステップや解答の多様性を向上させる結果が確認されている。これらの結果は、PoolDPPが幅広い言語モデルの応用において、出力の品質を損なうことなく、その多様性を高める効果的な手法であることを裏付けている。


参考: arXiv cs.LG (アーカイブ) — 2026年11月20日 14:00 (JST)

この記事をシェア
X はてブ LinkedIn