arXiv cs.LGが2026年7月2日(現地時間)に公開した論文「Program-as-Weights: A Programming Paradigm for Fuzzy Functions」は、自然言語の仕様からコンパクトでローカル実行可能なニューラルアーティファクトを生成する「fuzzy-function programming」パラダイムを提案した。このアプローチは、従来のルールベース実装が難しいプログラミングタスクにおいて、大規模言語モデル (LLM) API利用時の課題を解決することを目指している。
本論文では、ログ行の重要なアラート、不正なJSONの修正、意図による検索結果のランク付けなど、日常的なプログラミングタスクがクリーンなルールベース実装に抵抗すると指摘している。これらのタスクは現在、ローカリティ、再現性、価格のコストを伴いながら、大規模言語モデル (LLM) APIに依存する傾向にある。
提案されたProgram-as-Weights (PAW) は、このパラダイムを具体化したもので、自然言語の仕様からfuzzy-function programmingをコンパイルする。このプロセスでは、FuzzyBenchと呼ばれる1,000万例のデータセットで訓練された4Bパラメータのコンパイラが、軽量なフリーズ済みインタープリタ向けのパラメータ効率の良いアダプターを出力する。
PAWプログラムを実行する0.6BパラメータのQwen3インタープリタは、32BパラメータのQwen3への直接プロンプトと同等の性能を発揮することが示された。同時に、推論メモリの使用量は約50分の1に削減され、MacBook M3上で30トークン/秒の速度で動作する。PAWは基礎モデルの役割を、入力ごとの問題解決者からツールビルダーへと再定義する。これにより、関数定義ごとに一度だけ呼び出され、その後は安価かつオフラインで再利用可能なアーティファクトを生成することを可能にしている。
本論文の著者はWentao Zhang、Liliana Hotsko、Woojeong Kim、Pengyu Nie、Stuart Shieber、Yuntian Deng。
参考: arXiv cs.LG (アーカイブ) — 2026年7月3日 02:59 (JST)
原文ハイライト"compiling such a function from a natural-language specification into a compact, locally-executable neural artifact."