MistralのRobostral Navigate:最先端のロボットナビゲーションモデル
Mistral's Robostral Navigate: a state of the art robotics navigation model (mistral.ai)
要約
Mistral AIは、単一のRGBカメラのみでロボットが複雑な環境を自律的にナビゲートできる8Bモデル「Robostral Navigate」を発表しました。このモデルは、複数のセンサーを使用するアプローチを上回りながらも効率的で、未見のR2R-CEベンチマークで76.6%の成功率を達成しています。シミュレーションで訓練されたデータとトークン効率の高い技術を用いて完全に自社開発されており、ロボットの種類を超えて汎化し、訓練中に見られなかった実世界の障害物にも適応します。
全文翻訳
Thinking
Summary
Robostral Navigateは、単一のRGBカメラのみを使用してロボットが複雑な環境を自律的にナビゲートできるようにする8Bモデルであり、未知のR2R-CEベンチマークで76.6%の成功率を達成しています。これは、複数のセンサーを使用するアプローチを凌駕しつつ、より効率的です。シミュレーションデータとトークン効率の高い技術を完全に自社開発で構築したこのモデルは、ロボットの種類を超えて汎用化し、トレーニング中に見られなかった実世界の障害物にも適応します。このモデルは、ポイントベースのナビゲーションと強化学習を組み合わせて継続的な改善を図り、ロボット工学における統一されたエンボディドAIへの道を開きます。
本日、エンボディドナビゲーションのために構築された最初のモデルであるRobostral Navigateを紹介します。これは8Bモデルで、RGB画像と平易な言語の指示を受け取り、環境内をロボットで移動させます。
「ロビーを出て、廊下を通り抜け、倉庫に入り、2番目の棚に向かって停止してください。」
このようなタスクを実行するために、他のモデルはしばしば深度センサー、LiDAR、または連携して動作する複数のカメラを使用します。Robostral Navigateは、普通のRGBカメラを1台だけ使用し、深度センサーは使用しませんが、それでもR2R-CE(Room-to-Room in Continuous Environments)の検証済み(トレーニングから除外された環境での指示追従のベンチマーク)で76.6%を達成しています。その結果、深度センサーや複数カメラを使用した最高のシステムを4.5ポイント上回り、単一カメラアプローチの最高値を9.7ポイント上回っています。
Navigation
当社のモデルはロボットナビゲーションのために設計されており、オフィス、住宅、商業ビル、屋外設定を含む複雑な環境をロボットが自律的にナビゲートできるようにします。
Robostral Navigateが、稼働中のオフィスを横断する長距離指示ルートを完全に自律的に実行している様子。
この技術は、製造、配送、物流、ホスピタリティなど、数多くのアプリケーションを可能にし、今日のお客様にとって最も需要の高い機能の1つとなっています。Robostral Navigateに1つの指示を与えるだけで、ロボットはタスク全体を単独で完了し、人々や障害物で満たされた実際の空間を移動します。トレーニング中に一度も見たことのない環境でも、あらゆる設定に適応する能力を持っています。
Highlights
-
R2R-CEにおける最先端のパフォーマンス
-
検証済み(seen)で 79.4%の成功率
-
検証済み(unseen)で 76.6%の成功率
-
-
LiDARや深度センサーなしで、単一のRGBカメラから動作
-
8Bモデル、自社開発、完全にシミュレーションでトレーニング済み
-
車輪付き、脚付き、飛行ロボットで動作し、ロボットサイズを超えて汎用化
-
カメラの内部パラメータの違いに対して堅牢
-
プレフィックスキャッシングによるトークン効率の高いトレーニング
Navigation via pointing
タスクと観測履歴が与えられた場合、Robostral Navigateはポインティングによってロボットが次にどこへ移動すべきかを予測します。これは、ロボットの現在のカメラビュー内のターゲット位置の画像座標と、到着時の望ましい向きを推測します。メトリック変位に依存するコマンドとは異なり、ポインティングはポリシーをカメラの内部パラメータや世界のスケールの変化に対して自然に堅牢にします。
しかし、この方法ではターゲット位置が現在の視野の外にあるケースを処理できません。ポインティングが適用できない場合、モデルはロボットのローカル座標系での変位にフォールバックします。例えば:
「前方2メートル、左に1.5メートル移動し、左に25度回転してください。」
Built from the ground up
Robostral Navigateは完全に自社開発であり、既存のオープンソースVLMsに依存していません。
このモデルは、ポインティング、カウント、オブジェクトのローカライゼーションなどのグラウンディングタスクに特化した、当社のビジョン言語モデルから初期化されています。ナビゲーションは、これらの機能の自然な拡張として現れます。つまり、物事がどこにあるかを理解すれば、移動方法を学習します。
私たちは、シミュレーションで完全に効率的なデータ生成パイプラインを構築しました。これにより、データに対する迅速なイテレーションが可能になり、約240万の軌跡が350,000シーンにわたって収集されたデータセットが作成されました。
Efficient supervised training
Robostral Navigateの重要な要素は、プレフィックスキャッシングに基づいた効率的なトレーニングアルゴリズムです。ツリーベースの注意マスキング戦略を使用して、当社の方法はエピソード全体を単一のシーケンスに圧縮し、単一のフォワードパスですべての時間ステップでトレーニングできるようにしながら、時間ステップ間の情報漏洩を防ぎます。
時間ステップごとに1つのサンプルでトレーニングする場合と比較して、当社の方法は学習信号をすべて保持しながら、トレーニングトークン数を22倍削減します。実際には、この方法は数ヶ月かかるトレーニング実行を数日で完了する実行に変換します。
Online reinforcement learning
当社は、オンライン強化学習を使用してRobostral Navigateのパフォーマンスを向上させるために、大規模なポストトレーニングLLMに関する知識を活用しています。教師ありトレーニングステージの後、CISPOというオンライン強化学習アルゴリズムを使用してモデルのパフォーマンスをさらに向上させます。これにより、モデルは試行錯誤から学習し、失敗から回復し、探索的行動を獲得できるようになり、バニラ行動クローニングの分布シフト問題を効果的に緩和します。これだけで成功率が3.2%向上しました。停滞は見られないため、さらなるトレーニングと実験がこの数値を押し上げ続けると確信しています。
What's Next
Robostral Navigateは、統一された汎用エージェントに向けた最初のステップにすぎません。
ナビゲーションは、汎用ロボット工学の基盤となる能力であると信じています。大規模なシミュレーション、効率的なトレーニング、強力なグラウンディングプライオリティを組み合わせることで、Robostral Navigateは、コンパクトなモデルと単一のRGBカメラで最先端のエンボディドナビゲーションを実現できることを実証しています。
エンボディドフロンティアAIへの旅を始めましょう。当社のチームに話しかけてください。
BTW, we're hiring!
当社のナビゲーションモデルのリリースは大きな前進ですが、私たちの旅はまだ終わっていません。私たちの野心は、ロボットがオフィス、家庭、商業ビル、屋外スペースなどの複雑な環境を自律的にナビゲートできるようにすることであり、まだまだ多くの作業があります。私たちはロボティクスチームを積極的に拡大しており、私たちの野心を共有する才能あるリサーチサイエンティストやエンジニアを探しています。
ロボットにどこでもシームレスなナビゲーションをもたらすという私たちの使命に参加することに興味がある場合は、チームに参加するための応募を歓迎します。
By Théo Cachet, Arjun Majumdar, Srijan Mishra, Thomas Chabal, Chris Bamford, Elliot Chane-Sane, Benjamin Tibi, Ludovic Ho Fuh, Olivier Duchenne - AI Science Robotics