アルパー・アリモーグル氏は9月10日(現地時間)、arXiv cs.CRで公開した研究論文で、非決定性複合AIワークフローの信頼できない検証において、サンプルサイズよりも閾値の選択が主要な制約要因となることを指摘した。この研究は、LLMコールやリトリーバー、ツールを連鎖させ、サンプリングやモデル更新によって出力が変化するAIパイプラインの検証に関する新たなプロトコルを提示している。
複合AIパイプラインは、推論モデル、検索コンポーネント、および外部ツールを組み合わせて構成され、本質的に非決定性を示す。これは、同じ入力に対してもサンプリングの変動、モデルの更新、またはツールの不安定な応答によって異なる結果が生じるためである。これらのパイプラインは、単一の所有者ではないエッジ、クラウド、および軌道ノードで実行されることが増えており、最適化の過程で中間結果が破棄されるため、その再現性を検証することが課題となっている。
検証には、非決定性出力の許容、正直に報告しない可能性のあるノードへの対処、および共有記録への断続的なアクセスという3つの主要な困難が伴う。既存の研究はこれら最大2つの課題にしか対応していない。アリモーグル氏の研究は、これら3つ全てをカバーするプロトコルを提案している。このプロトコルでは、各ステージの入力、出力、およびコンテキストのダイジェストをポリシーダイジェストの下でコミットし、実行ノードを信頼せずにアンカー付けする。また、ネットワークパーティション下では検証を延期し、k回の再実行の中央値に基づいて課題を決定する仕組みを持つ。
この手順が機能しない点が主な研究結果として示されている。合成HotpotQAパイプラインを用いた実験では、校正された固定閾値が45回の正直な再現のうち44回を受け入れ、105組の異なるペアのうち104組を拒否した。しかし、同じ入力での捏造をk=5の29回の試行中27回で通過させてしまうことが明らかになった。これは、サンプル数を増やしても推定値が明確になるだけで、本質的な問題を解決しないためである。
この結果は、メトリックとパイプラインの再実行のばらつきを固定した場合、結合制約がサンプルサイズではなく閾値であることを示唆している。実行ごとに導出される閾値は、正直な再現をゼロ拒否に一致させた最高の定数閾値が9回であったのに対し、29回中19回で捏造を検出した。この閾値はk=5では正直なコミットメントを拒否せず、k=3では15回中3回拒否した。また、これに対して構築された攻撃者の15回中11回を捕捉することに成功した。
参考: arXiv cs.CR — 2026年9月11日 13:00 (JST)
原文ハイライト"Threshold Choice, Not Sample Size, Bounds Trustless Verification of Nondeterministic Compound AI Workflows"