AI・機械学習
プログラム・アズ・ウェイト：ファジー関数プログラミングパラダイム
Program-as-Weights: A Programming Paradigm for Fuzzy Functions (arxiv.org)
要約
本論文は、自然言語仕様からローカル実行可能なニューラルアーティファクトとしてコンパイルする「ファジー関数プログラミング」という新しいパラダイムを提案しています。このパラダイムを実装したProgram-as-Weights（PAW）は、大規模言語モデル（LLM）APIへの依存を減らし、ローカルで効率的な実行を可能にします。PAWは、小規模なモデルで大規模モデルと同等の性能を発揮し、推論メモリ使用量を大幅に削減します。
全文翻訳
多くの日常的なプログラミングタスクは、重要なログ行のアラート、不正なJSONの修復、意図による検索結果のランキング付けなど、クリーンなルールベースの実装に抵抗があり、ローカル性、再現性、価格の代償を払って大規模言語モデルAPIにますます委託されています。
私たちはファジー関数プログラミングを提案します。これは、自然言語仕様からそのような関数をコンパイルし、コンパクトでローカル実行可能なニューラルアーティファクトにするものです。
私たちはこのパラダイムをProgram-as-Weights（PAW）で具体化します。ここでは、私たちがリリースする1000万例のデータセットであるFuzzyBenchでトレーニングされた40億パラメータのコンパイラが、凍結された軽量インタープリタ用のパラメータ効率の高いアダプターを出力します。
PAWプログラムを実行する6億パラメータのQwen3インタープリタは、Qwen3-32Bの直接プロンプティングと同等のパフォーマンスを発揮しますが、推論メモリは約50分の1しか使用せず、MacBook M3で毎秒30トークンの速度で実行されます。
PAWは、基盤モデルを、入力ごとの問題解決者からツールビルダーへと再構築します。これは、関数定義ごとに一度呼び出され、その後の各関数アプリケーションでの呼び出しが安価でオフラインで行える、小さな再利用可能なアーティファクトを生成します。