MITがAIに安全規則を遵守させる方法を開発

上部で複数の経路が分岐し、下部で一点に収束する、多面的な3D漏斗。 TL;DR 一部のAIシステムは、ロボットアームの動き方や画像の編集方法などを段階的に計画して出力を生成しますが、その構築方法には、最終結果が厳格で交渉不可能なルールに従うことを保証するものがありません。MITの研究者たちは、生成の非常に最後のステップでのみルールが満たされているかを確認するHardFlowという手法を開発しました。これにより、モデルはまず良い解を自由に探索できます。コンピュータシミュレーション内でのテストでは、HardFlowは常に要求されたルールを満たし、計算時間を長く取ることなく、競合手法よりも優れた結果を生み出しました。また、再学習なしで既に学習済みのモデルにも適用できます。ただし、これまでのところすべてシミュレーションで実行されており、独立したラボで結果が再現されたわけではありません。 何が起こったか MITのチームは、HardFlowというアルゴリズムを開発しました。これは、生成AIモデルの一種が、モデルが単に近似しようとするのではなく、例外を一切認めない厳格な「ハード」要件を最終出力に満たすことを可能にします。研究者たちは、これが重要となる状況として、ロボット工学、物理プロセスの制御、コンピュータビジョンを挙げています。 この研究は、機械工学およびMITのシステム・意思決定情報学研究所の大学院生である筆頭著者Zeyang Li氏、共同著者Kaveh Alim氏、そして機械工学およびデータ・システム・社会学研究所の准教授であるシニア著者Navid Azizan氏によって行われました。 問題となっているモデルは、フローマッチングと呼ばれる技術を使用しています。これは、ランダム性から始まり、学習済みの「速度場」を使用して徐々に完成した結果へと誘導することで、画像やロボットの移動計画などの出力を生成します。この速度場が各ステップでプロセスを推進します。 HardFlowは、これらのモデルにハードルールを強制する問題を制御問題として再構築します。速度場への小さな調整を調整可能な制御として扱い、中間ステップのすべてにルールを強制するのではなく、ルールが最終的にのみ有効であることを要求します。プロセスを、次々と解決できる短い1ステップの問題のシーケンスに分割します。 この方法で機能するため、既に学習済みのモデルに再学習することなく直接適用できます。 「制約満足に関しては、最終的に重要なのはモデルの最終出力です。なぜなら、内部プロセスは破棄されるからです。中間ステップのすべてに制約を満たすことを要求しないことで、モデルは最終的に実現可能な高品質の解を見つけるためのより多くの自由を得ることができます」とZeyang Li氏は述べています。 著者たちは、HardFlowを他の6つの手法（ほとんどが各中間生成ステップでルールをチェックする「射影」手法、またはガイダンス信号を使用してプロセスを誘導する手法）と比較して、4つのタスクでテストしました。それは、シミュレーションされたロボットアームが物体に手を伸ばしながら障害物を回避する（D3ILベンチマーク）、迷路ナビゲーション、物理プロセスの境界条件の制御、テキスト指示による画像編集です。 彼らの主張は、モデルの中間出力を常にルールに準拠させることは、探索の自由を制限し、最終結果の品質を低下させるということです。これは、最終段階でのみチェックする場合と比較してです。 報告された実験（すべてシミュレーションで実行）では、HardFlowは要求された制約を毎回満たし、他の手法よりも一貫して高品質な結果を生み出し、計算時間はほとんどの手法と同等またはそれ以下でした。 特にロボット操作テストでは、HardFlowはシミュレーションされたロボットアームが障害物を回避しつつ、ターゲットオブジェクトへの最短経路を見つけることを可能にしました。一方、他のほとんどの手法は、障害物に衝突するか、大幅に長い経路を取るかのどちらかでした。 「生成AIの約束は、可能性の豊かな空間を探索できる能力ですが、現実世界はどの可能性が許容されるかに境界を設けています。私たちの手法は、高リスクまたは安全性が重要なアプリケーションにおける交渉不可能な要件を強制しながら、その生成能力を維持することを可能にします」とNavid Azizan氏は述べています。 この論文は査読を受け、IEEE Transactions on Pattern Analysis and Machine Intelligence に「HardFlow: Hard-Constrained Sampling for Flow-Matching Models via Trajectory Optimization」というタイトルで掲載されました。 研究者たちはまた、将来の研究では、制約施行ステップと同時にAIモデル自体が更新される設定にフレームワークを拡張できると述べており、これによりコンプライアンスと出力品質の両方がさらに向上する可能性があると示唆しています。 それが意味すること（そして意味しないこと） このパターンがテスト外でも通用する場合、HardFlowは、学習済みの生成モデルに最終出力に関する確実な保証を与える方法を示しています。再学習することなく、また中間ステップすべてに準拠を強制することから生じる品質のトレードオフなしにです。これは、ロボットが障害物の近くで動作するなど、ルール違反が実際の結果をもたらすアプリケーションにとって重要です。 これは、HardFlowが物理的なロボットや展開されたシステムで機能することが示されたことを意味するものではありません。論文で報告されているすべての結果は、シミュレーションされたベンチマーク（D3ILシミュレータ、Maze2Dシミュレータ、シミュレーションされた物理プロセス制御タスク、画像編集）から得られており、論文は実際のハードウェアや本番システムでのテストを報告していません。 また、「完璧な制約満足」があらゆる条件下で有効な保証であることを意味するものでもありません。この手法は、生成の途中で最終出力がどのようになるかの近似に依存しており、その理論的保証は各問題に固有の数学的限界に依存しているため、これらの4つのベンチマークでの完璧な記録は、異なる設定でルールが常に満たされることを確立するものではありません。 まだわからないこと MITチーム以外のラボは、論文のベンチマーク比較を独立して再現していません。唯一特定された外部チェックは、IEEE Transactions on Pattern Analysis and Machine Intelligence が査読を通じて論文を採択したことです。これは、実験を再実行するのではなく、方法論と提示を評価するものです。MIT自身のプレスリリースを超えた結果の報道は、そのリリースを再公開するサイトのみであり、独立したジャーナリズムではありません。したがって、ここで説明されている主張の別途外部検証はありません。 また、HardFlowが、ここでテストされた幾何学的および物理的な制約とは対照的に、言語モデルの出力に関連する、曖昧で形式化が難しい安全ルールを処理できるか、またはこのアプローチがフローマッチング以外の生成モデルファミリー（自己回帰言語モデルなど）で機能するかどうかも確立されていません。 ソースと著者情報 この記事で引用されたすべてのソースは、一箇所にまとめられています。 https://news.mit.edu/2026/new-method-enables-ai-safety-critical-situations-0914 — Adam Zewe https://arxiv.org/abs/2511.08425 https://arxiv.org/html/2511.08425 https://ieeexplore.ieee.org/abstract/document/11592684 編集チェック、自動カウント 4件のソースが引用されています 16件のインラインリンクされた主張 0件の出典不明の主張が見つかりました 0件の禁止単語が見つかりました 0件の文脈のない数字 ポルトガル語（BR）でも利用可能 ← フロントページに戻る