HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

トランクの中を覗く:当社のコンピュートとは

A look under our trunk: what's in our compute (waymo.com)

123 pointsby ra769 コメント

要約

Waymoは、自動運転車の頭脳であるコンピュートシステムについて、そのアプローチ、カスタムシリコン、および業界リーダーとの連携について解説しています。このシステムは、リアルタイムの運転コマンドを生成するために、応答性、堅牢性、冗長性の3つの要件を満たすよう設計されており、特にカスタムASICはセンサーデータをリアルタイムで処理するML powerhouseとして機能します。

全文翻訳

Waymoのコンピュートシステム:トランクの中身を探る

コンピュートはWaymo Driverの頭脳であり、生のセンサーデータをリアルタイムの運転コマンドに変換します。路上で実証可能な安全な、物理的なAIを運用するには、決定論的で低遅延なパフォーマンスのために設計されたシステムへの根本的な移行が必要です。過去10年間、私たちは実世界のエッジコンピュートのユニークな制約を解決するために、ハードウェア、センサー、アルゴリズムを並行して共同設計してきました。今回は、私たちのコンピュートへのアプローチ、カスタムシリコン、そして路上で最も高性能なコンピューティングシステムを構築するために業界リーダーとどのように協力しているかを共有するために、トランクの中身を初めて公開します。

自動運転のコンピュートシステムは、非常に多様なワークロードを処理します。Waymoでは、データセンター向けとしても印象的な最先端システムを設計していますが、車載オペレーティングドメインとリアルタイム要件という追加の複雑さが伴います。従来のドライバーアシストコンピューティングとは異なり、私たちのシステムは人間のバックアップなしで運転の全タスクを処理するため、著しく高いパフォーマンスが要求されます。2億マイルを超える完全自動運転の経験から、私たちは3つの譲れない要件を中心にコンピュートを設計しています。

  • 応答性: リアルタイムの運転判断を行うため、自動運転システムは完全にオンボードで動作し、ミリ秒単位で継続的に判断を処理します。私たちはスタックを超低遅延で設計し、最初のピクセルからアクションまでの遅延を最小限に抑えています。これらのクリティカルなミリ秒内で、高度なMLモデルが環境の高忠実度な理解を構築し、安全な進行経路を評価します。これを実現するには、印象的な生のコンピューティングパワー(8年間で20倍にスケールアップしました)と、それを効率的に活用するための深く最適化されたソフトウェアスタックが必要です。

  • 堅牢性: 私たちは、コンポーネントレベルからシステムレベルまで、驚異的な耐久性と信頼性をもって物理世界で機能するようにコンピュートを設計しました。私たちのハードウェアは、継続的な振動、衝撃、極端な温度下で動作します。車両の液体冷却システムに直接統合することで、凍てつくような中西部冬でも、フェニックスの灼熱の暑さでも、ピークパフォーマンスを維持します。

  • 冗長性: 人間が引き継ぐことがないため、プロアクティブな安全性と冗長性がネイティブに組み込まれています。私たちのコンピュートは、2つの独立したエンジンのように設計されています。通常はフル並列ワークロードを実行する1つのユニットとして動作しますが、一方に障害が発生した場合、もう一方がシームレスに引き継ぎます。

[画像: Waymo Driverの「ピクセルからアクチュエーションまで」の遅延(赤から青)を、あらゆるパーセンタイルで動的ワークロードを最適化することで大幅に削減したグラフ]

市販のコンポーネントからカスタムシステムへの進化は、物理的およびアーキテクチャルな設計の再考を必要としました。私たちの高度に統合されたシステムは、ライダーエクスペリエンスを損なうことなく、膨大な処理能力を提供し、バッテリー効率を最大化しながら、十分なトランクスペースを確保し、静かに動作します。私たちは、最小限の遅延で高度なニューラルネットワークを実行するために、MLプライマリアーキテクチャを構築しました。オーケストレーション、データ移動、ロギングなどのクリティカルな非MLタスクを管理しつつ、MLコンピューテーションの時間を最大化するために、MLテクノロジーと最高のCPU、GPU、アクセラレータを組み合わせています。その結果、バランスの取れたヘテロジニアスシステムが実現しました。

[画像: Waymoのカスタム設計5nm ASIC]

コアMLブレインに到達する前の大量の生データを処理するために、私たちはカスタム設計の5nm ASICを発表できることを嬉しく思います。このチップは、私たちが開発しているいくつかのエキサイティングなカスタムコンポーネントの1つにすぎませんが、生のセンサーデータをリアルタイムで処理、融合、および高度なニューラルネットワークを実行するために特別に設計された、専門化されたMLパワーハウスです。シリコン、センサー、アルゴリズムを並行して開発することで、センサーの忠実度、帯域幅効率、量子化の限界を押し広げ、スパース畳み込みから密なトランスフォーマーまで、多様なモデルを実行できます。

このASICの特殊化されたアクセラレータは、ライダール、レーダー、カメラストリームからのクリティカルな情報を即座に抽出します。これには、低光量下での知覚能力を向上させるための時間的ノイズ除去も含まれます。このデータは、カスタム設計の推論エンジンに供給され、センサーフュージョンMLモデルを実行し、忠実度を犠牲にすることなく効率を高めます。これらのASICだけでも、フロントエンド処理とMLモデル専用の1,000以上のTOPSのMLパフォーマンスを提供しますが、私たちはフルスタック全体を最適化して、特に頻繁に運用する低バッチレジームでの達成パフォーマンスを最大化します。

[画像: カスタムシリコン、センサー、アルゴリズムの共同設計により、比類のない効率とパフォーマンスを実現した例。右の最新システムは、13台の高解像度カメラからの高忠実度データを同時にリアルタイムで処理し、優れた低光量下での知覚能力を提供し、左の従来のカメラが見逃すクリティカルな環境の詳細を明らかにしています。]

カスタムシリコンの取り組みと並行して、私たちは業界リーダーと緊密に連携し、彼らの世界クラスのコンピューティングソリューションが、テクノロジーを効率的にスケールするために必要な強力な基盤を提供しています。AMD、Micron、NVIDIA、Samsung、Sandisk、Socionext、TSMCなどの多くのパートナーと協力して、最も高性能な自動運転コンピューティングシステムを提供できることを誇りに思っています。

これは、今後の展開のほんの一部です。Waymo Driverの新しいユースケースを探求し、AIスタックが進化し続けるにつれて、高効率で高性能なコンピュートの需要は増大する一方です。

Waymoのコンピュートへのアプローチについてさらに詳しく知りたい場合は、Hot Chipsでの私たちの講演にご参加ください。

また、waymo.com/careersで求人に応募して、私たちのチームに参加し、可能性の限界を押し広げることもできます。