arXivが2026年10月15日(現地時間)付けで、大規模言語モデル (LLMs) を用いた科学的アイデア生成において、アイデアの多様性を向上させつつ質の高いアイデアを確保する新しい学習手法を提案する論文を公開した。提案された8Bモデルは、独自に構築されたベンチマークにおいて、クロード・オーパス4.8 (Claude Opus 4.8) およびジーピーティー・シックス・アストラ (GPT-6 Astra) を上回る「創造的有用性 (creative utility)」を達成した。

本研究は、研究パイプラインの初期段階であるアイデア生成にLLMsが活用される中で、多くの既存研究が個々のアイデアの質を最適化する一方で、多様性を見過ごしている現状を指摘している。

論文では、過去の論文に基づき、高品質かつ明確に異なる複数のアイデアセットを提案するモデルの実現を目指すドキュメントに基づくアイデア生成 (document-grounded ideation) を研究している。この目的のため、研究チームはセットレベルの強化学習 (set-level reinforcement learning) 目標を用いた学習手法を提案した。この設定では、モデルは単一の生成プロセスでK個の構造化されたアイデアカードを作成し、そのセット全体が共同で評価される。各アイデアの質は、それより前に書かれたアイデアとの距離に基づいて重み付けされることで、モデルは新しいアイデアを先行するアイデアから意図的に遠ざけるように学習する。

学習済み8Bモデルの評価では、汚染のないベンチマークにおいて、Claude Opus 4.8およびGPT-6 Astraよりも高い創造的有用性(質と多様性を組み合わせた尺度)を示す結果となった。4人の専門家によるパイロット人間研究では、提案されたアイデアセットがClaude Opus 4.8と同程度に有望であると判断され、わずかながらよりユニークなアイデアを含んでいた。さらに、コーディングエージェントがこれらのアイデアに基づいた概念実証実験を実施した際、提案モデルの成功率@kはClaude Opus 4.8に匹敵し、多様性の追加が実行可能性を損なわないことが確認された。

この論文は、マンヤ・ワドワ (Manya Wadhwa) 氏、プラナヴ・ナラヤナン・ヴェンキット (Pranav Narayanan Venkit) 氏、林 弘明 (Hiroaki Hayashi) 氏、ユイ・リ (Yu Li) 氏、トゥヒン・チャクラバーティ (Tuhin Chakrabarty) 氏、チェンシェン・ウー (Chien-Sheng Wu) 氏によって執筆された。


参考: arXiv cs.CL — 2026年10月16日 02:52 (JST)

原文ハイライト

"our trained 8B model achieves higher creative utility (a measure combining quality and diversity)"

この記事をシェア
X はてブ LinkedIn