手続きグラフ：LLMエージェントのための自己進化型実行構造

エージェント手続きグラフ：LLMエージェントのための自己進化型実行構造Yuxing Lu, Yicheng Chen, Shanchan Wu, Sercan Ö. ArıkChat with PaperFirst pageキュレーターの視点Yuxing Lu、Yicheng Chen、Shanchan Wu、Sercan Arik（Google所属）は、ジョージア工科大学および北京大学と共同で、手続きグラフを導入しました。これは、(手続き、関係、手続き)のトリプレットを明示的に格納し、エージェントにステップレベルのガイダンスを提供し、失敗した軌跡と成功した軌跡の違いから自身を書き換えます。 この論文に質問するこの論文について質問するPaper Chatで質問する主なポイント01グラフが格納するもの：知識グラフは事実をエンティティ-関係-エンティティのトリプレットとして保持します。手続きグラフは手続きを手続き-関係-手続きのトリプレットとして保持するため、エージェントは成長する履歴に暗黙的に任せるのではなく、次に何をすべきか、どのような順序ですべきかについてのクエリ可能な表現を持ちます。 02ガイダンスはバイアスであり、コマンドではない：各ステップで、フレームワークはエージェントのアクティブノードを特定し、ガイダンスモデルは周囲のサブグラフを状況に応じたガイダンスに変換します。これは、ソルバーの次のアクションを指示するのではなく、バイアスをかけ、グラフが間違っている場合にソルバーが自由に逸脱できるようにします。 03自己進化は保持されたゲートを使用する：LLMリファイナーは、失敗した軌跡と成功した軌跡を比較し、グラフのトポロジーと属性を編集します。保持された検証パフォーマンスを維持または改善する編集のみをコミットし、却下された編集はファイルに保持して、同じ変更が再度提案されないようにします。 04悪い事前知識を修復する：最小限のスケルトンから開始して、ループは手作業で設計されたものに匹匹配するかそれを超えるグラフを構築します。欠陥のあるエキスパートの事前知識が与えられた場合、それを継承するのではなく、その事前知識を修正します。 05メモリベースラインを上回る一貫したゲイン：複数のデータセット、タスクタイプ、バックボーンLLMにわたって、手続きグラフはメモリベースラインを上回り、自己進化は手動エンジニアリングなしでさらなるゲインを追加します。 概要大規模言語モデルは、長期間の計画を立て、外部ツールを通じて行動するエージェントとしてますます展開されています。ほとんどのエージェントは、累積する履歴に対して制約のない生成を通じてアクションを選択しますが、何を、どのような順序で、どのような条件下で行うかという手続き的知識は暗黙的になります。軌跡が長くなるにつれて、エージェントは目標を見失ったり、順序を間違ってツールを呼び出したり、生産性の低いアクションを繰り返したりする可能性があります。私たちは手続きグラフを導入します。知識グラフが(エンティティ、関係、エンティティ)のトリプレットに事実知識を整理して「何であるか」という質問に対応するように、手続きグラフは(手続き、関係、手続き)のトリプレットに手続き知識を整理して「何をすべきか」という質問に対応します。各決定ステップで、フレームワークはエージェントのアクティブノードを特定し、ガイダンスモデルは周囲のサブグラフをステップレベルの状況に応じたガイダンスに変換して、ソルバーの次のアクションを指示するのではなくバイアスをかけます。グラフは自己進化します。LLMリファイナーは、失敗した軌跡と成功した軌跡を比較し、グラフのトポロジーと属性を編集します。保持された検証パフォーマンスを維持または改善する編集のみをコミットし、却下された編集は繰り返しを避けるために保持します。最小限のスケルトンから開始して、ループは手作業で設計されたものに匹匹配するかそれを超えるグラフを構築します。また、欠陥のあるエキスパートの事前知識を修復することもできます。複数のデータセット、タスクタイプ、LLMにわたって、手続きグラフはメモリベースラインを上回る一貫したゲインを提供し、自己進化は手動エンジニアリングなしでパフォーマンスをさらに向上させます。毎週月曜日来週の論文を入手してください。Substackで購読する