LLMの審査員が同意した場合、それを信じるべきか？

会話型AI LLMの審査員が同意した場合、それを信じるべきか？ 相関の高い出力を持つLLM審査員の意見を割引くことで、審査員パネルが真の多様な視点を反映することを保証します。 Krishna Balasubramanian, Sasha Podkopaev 著 2026年8月26日 5分で読む 共有 リンクをコピー メール X LinkedIn Facebook Line Reddit QZone Sina Weibo WeChat WhatsApp 分享到微信 x 主なポイント LLM審査員間の相関出力に対応するため、アイジングモデルを使用した依存性認識型ラベル集約を導入。 これにより、審査員がトレーニング lineage、プロンプト、またはモデルファミリーを共有している場合に、同意のカウントがより強く見えるという限界に対処。 審査員パネルをネットワークとして扱い、個々の審査員の信頼性とペアワイズの依存性をモデル化。 人間による参照ラベルなしの教師なし設定で、独立した証拠と共有された間違いを区別可能に。 3つのタスク（関連性分類、毒性検出、要約評価）で、10人の審査員パネルを使用し、加重多数決ベースラインを9〜14%上回る精度向上を実証。 LLM-as-a-judgeパイプラインの実践的なガイダンスを提供。 パネルの多様性を統計的に評価し、同意のクラスタリングパターンを検査し、審査員の相関を調整した信頼度を報告することを推奨。 すべての投票を同等に扱わない。 この回答は役に立ちましたか？ 検索拡張生成システムを評価することを想像してみてください。 ユーザーが質問をし、システムがテキストパッセージを検索し、LLM審査員がそれが関連しているかどうかを判断します。 ノイズを減らすために、複数の審査モデルに同じパッセージを評価してもらいます。 8人が「関連あり」と言い、2人が「関連なし」と言います。 10人中8人は説得力があるように聞こえます。 しかし、重要な質問は、何人の審査員が同意したかだけでなく、どれだけ独立してその同意に達したかです。 同意した8人の審査員が本当に異なる証拠源である場合、同意は強力なシグナルです。 しかし、それらがプロンプトテンプレート、トレーニング lineage、モデルファミリー、または共通の盲点を共有している場合、それらは同じ間違いを繰り返している可能性があります。 投票数は、証拠が実際よりも強く見えるようにします。 異なる審査員間の出力の相関は、マルチ審査員パネルの有用性を制限します。 私たちの論文「Dependence-aware label aggregation for LLM-as-a-judge via Ising models」は、今年の国際機械学習会議（ICML）で発表されたShiva Kasiviswanathanとの共著で、この問題に対処しています。 私たちは、審査員の出力間の相関を評価し、集計スコアをそれに応じて調整して、多様な意見を保証する方法を提案します。 3つの異なるタスクでのテストでは、私たちの方法は、過去の精度に基づいて審査員に重み付けされた最良のベースラインを、標準的な指標で9％から14％上回りました。 一部の審査員の出力が相関している場合、10票に含まれる独立した証拠の数は10未満になる可能性があります。 隠された仮定 多数決の魅力はその単純さです。 各審査員は1票を持ち、より多くの票を獲得した方が勝ちます。 加重多数決は自然な改善です。 より正確に見える審査員は、より大きな影響力を持つようになります。 どちらのアプローチも有用なベースラインです。 しかし、それらは審査員パネルの同じ単純化された見方に基づいています。 間違った答えを得た審査員は、独立してエラーを犯したかのように扱われます。 LLM-as-a-judgeシステムでは、その仮定はしばしば楽観的すぎます。 2人の審査員は、ルーブリックを同様に解釈するため、一緒に失敗する可能性があります。 複数の審査員は同じ例でプロンプトされる可能性があり、そのため同じ評価バイアスを継承します。 関連するモデルのグループは、同じフレーミングに敏感である可能性があります。 これらの場合、多数決は思われるよりも情報が少ない可能性があります。 審査員パネルはネットワークです より良い集約者は、パネルを審査員のネットワークとして扱います。 各審査員は依然として独自の信頼性プロファイルを持っていますが、審査員のペアも関係を持つことができます。 一部のペアは、個々の信頼性プロファイルが予測するよりも頻繁に同意します。 これには、共有された間違いも含まれます。 他のペアは、より補完的な視点を提供します。 私たちは、バイナリ変数の間のペアワイズ依存性を表すことができる統計モデルであるアイジングモデルを使用して、これらの関係をモデル化します。 LLM-as-a-judgeのコンテキストでは、集約者は審査員のスキルと審査員の類似性の両方を学習します。 多数決は投票数を数えます。 加重投票は個々の審査員の信頼性を学習します。 依存性認識型集約は、審査員間の関係も学習します。 私たちの方法は教師なし設定向けに設計されています。 人間の参照ラベルをトレーニングに使用せずに、審査員の出力から学習します。 各アイテムの真のラベルを、審査員の信頼性と依存性を記述するパラメータと共同で推測される潜在変数として扱います。 依存性モデリングには2つの有用なレベルがあります。 最初のレベルでは、審査員間の関係パターンは、正と負のラベルに対してほぼ同じであると見なされます。 最終的な決定は依然として加重投票のように見えますが、重みは相関のために調整されます。 冗長な同意は、予測ルールを解釈しにくくすることなく割引くことができます。 2番目のバリアント、クラス依存モデルは、関係パターンがラベルとともに変化することを可能にします。 これは、同意構造がクラス情報を持つ場合に役立ちます。 たとえば、審査員が明確なアイテムでは広範な同意を示しますが、曖昧なアイテムでは認識可能なクラスターに分割される場合です。 このアプローチはより表現力がありますが、追加のパラメータを確実に推定するにはより多くのデータが必要です。 評価ログからの学習 初期のパラメータ設定から始めて、アルゴリズムは各アイテムの投票を組み合わせて、その真のラベルがポジティブである確率を推定します。 これらのソフトな確率は、モデルの現在の最良の推測であり、外部ラベルではありません。 次に、それらの確率を更新することと、それらから審査員の信頼性とペアワイズの依存性を再推定することの間を交互に行います。 参照ラベルは、実験精度を測定するために後でしか使用されません。 このアプローチは、LLM-as-a-judge出力を大規模に収集しているチームにとって特に重要です。 既存の評価ログには、投票だけでなく、同意と不一致のパターンも含まれています。 依存性認識型集約は、それらのパターンを使用可能な信号に変換します。 学習された審査員間の関係は、監査中に冗長な審査員とタスク固有の共有された盲点を特定するのに役立ちます。 同じ学習されたネットワークが、実用的な質問に答えるのに役立ちます。 類似のモデルは独立した証拠を追加していますか、それとも主に互いを強化していますか？ あるタスクは広範な同意を生み出しますか、それともクラスター固有の分割を生み出しますか？ 別の審査員を追加すると、評価が改善される可能性が高いですか、それとも既存のバイアスのソースを単純に複製しますか？ 評価 関連情報に対する関連性分類、毒性分類、要約評価の3つのバイナリタスクでアプローチを評価しました。 審査員パネルには10人の審査モデルが含まれており、すべて温度ゼロで実行されていました。 これは、出力にランダム性がなく、同じ入力が常に同じ出力を引き起こすことを意味します。 依存性認識型モデルを、2つの条件付き独立ベースラインと比較しました。 加重多数決と均一多数決です。 3つのタスク全体で、依存性をモデル化することは、システムが十分な評価アイテムと意味のある関係を推定するのに十分な審査員を持った後、精度を向上させました。 10人の審査モデルすべてと各タスクで利用可能な最大トレーニングデータを使用した場合、最も強力な依存性認識型結果は、関連性で0.912の精度でした。 加重多数決では0.820、均一多数決では0.804でした。 毒性では0.792で、0.694と0.695でした。 要約では0.806で、0.737と0.561でした。 すべての10人の審査モデルのテスト精度結果の概要。 依存性認識型バリアントは、加重多数決と均一多数決の両方のベースラインを改善します。 ベストプラクティス LLM-as-a-judgeパイプラインを使用するチームにとって、依存性認識型集約はいくつかの有用な習慣を示唆しています。 まず、個々の審査員だけでなく、審査員パネルを評価します。 個別に強力な審査員のセットは、