arXiv cs.CLは11月12日(現地時間)、小規模なオープンウェイト言語モデルが、組織自身のインフラ上で集団意思決定(CDM)を運用できる可能性を示唆する研究論文を公開した。この研究は、80億から360億パラメータを持つ複数のオープンウェイトモデルを使用し、消費者向けGPUでTripAdvisorのレストランレビューを分類。出力レベル融合などの手法が結果の安定性に与える影響を分析し、組織のインフラ上でCDMを運用可能な点を提示する一方で、判断の変動が課題であることを指摘している。
この論文では、小規模なオープンウェイト言語モデルが、チェックポイント、推論設定、意見を管理しながら、組織のインフラストラクチャ上で集団意思決定 (CDM) を運用できると指摘されている。一方で、繰り返しクエリに対する判断の変動が、その運用における課題として挙げられた。
実験は、ロンドンの474件とマドリードの600件のTripAdvisorレビューを対象に実施された。研究では、5種類のオープンウェイトモデル(80億から360億パラメータ)と、ホスト型のリファレンスモデルが使用された。各レビューは10回分類され、連続的な評価を通じて結果の解像度が維持された。
分析の結果、実行ごとの変動を低減しても、参加者への感度が残ることが示された。群衆リサンプリングによる分析では、ロンドンおよびマドリードのいずれのコーパスにおいても、単一の明確な勝者は特定されず、複数の候補が残る結果となった。具体的には、ロンドンでは4店舗全てが候補となり、マドリードでは12店舗中5〜8店舗が候補として挙げられている。
追加の実行と出力レベル融合は、勝者を安定させる効果を示したものの、この感度を完全に除去するには至らなかった。また、融合された結果がその最良のメンバーのパフォーマンスを超えることもなかったと報告されている。3つの大規模オープンウェイトモデルは、ホスト型リファレンスモデルがロンドンで特定した勝者と一致し、レビューごとの相関においても少なくとも同等であった。論文は、小規模オープンウェイトモデルが、強制的なランキングではなく、マージン付きの候補セットとして、ローカルなCDMをサポートできる可能性を示唆している。
参考: arXiv cs.CL — 2026年11月16日 14:00 (JST)
原文ハイライト"Small Open-Weight Language Models for Crowd Decision-Making"