トランクの中を覗く：当社のコンピュートとは

コンピュートはWaymo Driverの頭脳であり、生のセンサーデータをリアルタイムの運転コマンドに変換します。実証済みの安全な物理的AIを路上で運用するには、決定論的で低遅延のパフォーマンスのために設計されたシステムへの根本的なシフトが必要です。過去10年間、私たちはエッジコンピュートのユニークな制約を解決するために、ハードウェア、センサー、アルゴリズムを並行して共同設計してきました。当社のコンピュートへのアプローチ、カスタムシリコン、そして業界リーダーとどのように協力して路上で最も有能なコンピューティングシステムを構築しているかを共有するために、トランクの中を初めて公開します。 自動運転のためのコンピュートシステムは、非常に多様なワークロードを処理します。Waymoでは、データセンターであれば印象的と見なされるであろう最先端のシステムを設計していますが、車載オペレーティングドメインとリアルタイム要件という追加の複雑さがあります。従来のドライバーアシストコンピューティングとは異なり、当社のシステムは人間のバックアップなしで運転の全タスクを処理するため、著しく高いパフォーマンスが要求されます。2億マイルを超える完全自動運転の経験から、私たちは3つの譲れない要件を中心にコンピュートを設計しています。 応答性：リアルタイムの運転判断を行うために、自動運転システムは完全にオンボードで動作し、ミリ秒単位で継続的に判断を処理します。私たちは、最初のピクセルからアクションまでの遅延を最小限に抑えるために、スタックを超低遅延で設計しました。これらのクリティカルなミリ秒の間、高度なMLモデルは環境の高忠実度な理解を構築し、安全な前方パスを評価します。これを解き放つには、印象的な生のコンピューティングパワーが必要ですが、これはわずか8年間で20倍にスケールアップしました。そして、それを効率的に活用するための深く最適化されたソフトウェアスタックと組み合わされています。 堅牢性：私たちは、コンポーネントレベルからシステムレベルまで、顕著な耐久性と信頼性をもって物理世界で機能するようにコンピュートを設計しました。当社のハードウェアは、絶え間ない振動、衝撃、極端な温度下で動作します。車両の液体冷却システムに直接統合することで、凍てつくような中西部冬でも、フェニックスの灼熱の暑さでも、ピークパフォーマンスを維持します。 冗長性：人間が引き継ぐことがないため、プロアクティブな安全性と冗長性がネイティブに組み込まれています。当社のコンピュートは、2つの独立したエンジンのように設計されています。通常はフル並列ワークロードを実行する1つのユニットとして動作しますが、一方に障害が発生した場合、もう一方がシームレスに引き継ぎます。 すべてのパーセンタイルにわたる動的ワークロードを最適化することで、Waymo Driverの「ピクセルからアクチュエーションまで」の遅延（赤から青）を大幅に削減しました。これにより、システムは複雑で高密度の環境を安全にナビゲートするために必要な高速な反射神経を得ることができます。市販のコンポーネントからカスタムシステムへと進化するには、物理的およびアーキテクチャルな設計を再考する必要がありました。当社の高度に統合されたシステムは、ライダーエクスペリエンスを損なうことなく、 immense な処理能力を提供し、十分なトランクスペースを確保し、静かに動作しながらバッテリー効率を最大化します。私たちは、最小限の遅延で高度なニューラルネットワークを実行するために、MLプライマリアーキテクチャを構築しました。オーケストレーション、データ移動、ロギングなどのクリティカルな非MLタスクを管理しつつ、ML計算の時間を最大化するために、MLテクノロジーと最高のCPU、GPU、アクセラレータを組み合わせています。その結果、バランスの取れた異種システムが実現しました。 Waymoの目的特化型5nm ASIC。コアMLブレインに到達する前に生のデータの大量の流入を処理するために、私たちは目的特化型5nm ASICを発表できることを嬉しく思います。このチップは、私たちが開発しているいくつかのエキサイティングなカスタムコンポーネントのうちの1つにすぎませんが、生のセンサーデータをリアルタイムで処理、融合、および高度なニューラルネットワークを実行するために特別に設計された、特殊化されたML powerhouse です。シリコン、センサー、アルゴリズムを並行して開発することで、センサーの忠実度、帯域幅効率、量子化の限界を押し広げ、スパース畳み込みから密なトランスフォーマーまで、多様なモデルを実行することができます。 ASICの特殊化されたアクセラレータは、ライダール、レーダー、カメラストリームからクリティカルな情報を即座に抽出します。これには、優れた低光量認識のための時間的ノイズ除去も含まれます。このデータは、当社の目的特化型推論エンジンに供給され、センサーフュージョンMLモデルを実行し、忠実度を犠牲にすることなく効率を高めます。これらのASIC単体で、フロントエンド処理とMLモデルに特化した1,000 TOPS以上のMLパフォーマンスを提供しますが、私たちはフルスタック全体を最適化して、特に頻繁に運用する低バッチレジームでの達成パフォーマンスを最大化します。 カスタムシリコンをセンサーおよびアルゴリズムと共同設計することで、比類のない効率とパフォーマンスを実現します。当社の最新システム（右）は、13台の高解像度カメラからの高忠実度データをリアルタイムで同時に処理し、優れた低光量認識を提供し、従来のカメラ（左）が見逃すクリティカルな環境の詳細を明らかにします。カスタムシリコンの取り組みに加え、私たちは業界リーダーと緊密に連携しており、彼らの世界クラスのコンピューティングソリューションは、当社のテクノロジーを効率的にスケールするために必要な強力な基盤を提供します。AMD、Micron、NVIDIA、Samsung、Sandisk、Socionext、TSMCといった多くのパートナーと協力して、最も有能な自動運転コンピューティングシステムを提供できることを誇りに思っています。 これは、今後の展開のほんの一部です。Waymo Driverの新しいユースケースを探索し、AIスタックが進化し続けるにつれて、高効率で高性能なコンピュートの需要は増大する一方です。 Waymoのコンピュートへのアプローチについてさらに詳しく知りたい場合は、Hot Chipsでの当社の講演にご参加ください。 また、waymo.com/careersで求人に応募して、チームとつながり、可能性の限界を押し広げるお手伝いをすることもできます。