AI・機械学習

Google、AI時代に向けた最新TPU 8txと8i Maxを発表

244 pointsby _benx_2026年11月10日75 コメント

要約

Googleは、AI時代に対応するため、第8世代TPUポートフォリオを拡張し、新たにTPU 8txとTPU 8i Maxを発表しました。これらの新システムは、大規模なコンテキストウィンドウやセキュアな推論といった、進化するAIワークロードのニーズに応えるために設計されています。Googleは、PyTorchとの連携強化やオープンソースソフトウェアの提供を通じて、TPUへのアクセスを容易にし、AI開発者やクラウド顧客への提供を拡大しています。

全文翻訳

最新のTPU：エージェント時代のために構築された8txと8i Max

2026年11月09日

私たちはTPU 8txとTPU 8i Maxで第8世代TPUポートフォリオを拡張し、1年間で4つの新しいTPUシステムを導入しました。

［画像: TPU 8txとTPU 8i Max］

私たちは10年以上前に、音声認識や言語翻訳といったGoogleの社内需要に動機づけられてTPUを設計しました。8世代のTPUを経て、そのユースケースは爆発的に増加し、i) Geminiモデルのトレーニングとサービング、ii) エージェントワークロード、iii) Google Cloudのインフラストラクチャ上でGoogle Cloudの顧客にサービスを提供すること、そして最近ではiv) 顧客がTPUを自身のデータセンターに直接展開できるようにすること、をカバーしています。TPUは現在、フロンティアラボ、トレーディング会社、小売業者、大学など、約100社の顧客を持つ急速に成長しているビジネスとなっています。

4月のGoogle Cloud Nextで、私たちは同じ世代の2つの新しい特殊TPU、大規模トレーニング用の8tとリアルタイム推論用の8iを発表しました。TPU 8tと8iは、それぞれ前世代TPUと比較して、トレーニングパフォーマンスで最大2.7倍、推論価格パフォーマンスで80%向上しています。

本日、私たちはさらに一歩進み、TPU 8i Max（大規模なコンテキストウィンドウとラックあたりの最高のコンピューティング密度を実現）とTPU 8tx（セキュアで機密性の高い推論用）という2つの追加システムで第8世代TPUポートフォリオを拡張します。1年間に4つのTPUシステムを導入するのは今回が初めてです。

拡張された第8世代TPUポートフォリオ：TPU 8t、TPU 8i、TPU 8tx、TPU 8i Max。

［画像: TPU 8t、TPU 8i、TPU 8tx、TPU 8i Max］

私たちは常にGoogle DeepMindと協力してTPUを共同設計してきましたが、外部組織からの特定のニーズに関するフィードバックをますます得ています。コンピューティングが人間スケールからエージェントスケールへと移行するにつれて、企業はAIモデルの巨大なコンテキストウィンドウ全体で推論できるアクセラレータを求めています。さらに、一部の高度に規制された顧客は、独自のワークロードのために特殊な暗号化機能を求めています。

本日発表する新しいTPUシステムは、この新しい現実に対応します。最近のPyTorchの発表と組み合わせることで、私たちはTPUをすべての開発者とCloud顧客がより簡単に利用できるようにすることを目指しています。モジュラーカスタムシリコンとオープンで使いやすいソフトウェアスタックを組み合わせることで、AI業界のペースで新しいハードウェアとシステム構成を提供できます。

チップを中心にコンピューターを構築する

本日、私たちは2つの新しいTPUシステムを発表します。新しいチップと新しいシステムの間には重要な違いがあります。

新しいチップの設計とは、シリコンウェハー上に数十億個の微細なトランジスタを配置する多年にわたるプロセスであり、物理法則と複雑で長期間の製造ライフサイクルに束縛されます。一方、システムとは、チップを中心にコンピューティング、ネットワーキング、ストレージをどのように統合するかということです。これには、チップとのパッケージング方法が含まれ、新たな顧客ニーズや研究ユースケースに迅速に対応できます。

10年以上前に最初のTPUを構築したとき、私たちはAIソフトウェアがシリコン製造よりもはるかに速く進化することを認識していました。そのため、システムバランスとモジュール性に基盤を置き、TPUをAIハイパーコンピューターのビルディングブロックとしてアーキテクチャ化しました。これにより、エンジニアはパッケージング、高速メモリ、光ネットワーク、セキュリティを迅速に調整できます。このアプローチにより、数年ではなく数ヶ月で特殊なスーパーコンピューターを提供できます。

セキュアで高コンテキストなAIに特化する

第8世代TPUポートフォリオの各システムは、AIライフサイクルの異なる部分をターゲットにしています。

TPU 8tとTPU 8iは、この世代のチップのベースラインを確立しました。

TPU 8tは、最大のスループット（ワットあたりの有用な知能）で大規模な基盤モデルのトレーニング強力なツールとして設計されました。
TPU 8iは、メモリの壁を打ち破り、チップ間通信遅延を最大半分に削減するように設計された推論エンジンです。

企業が自律エージェントを本番環境に導入するにつれて、私たちはこれらの基盤システムに2つの新しい構成を作成し、ハードウェアレベルのデータセキュリティと百万トークンのコンテキストスケールという2つの緊急の新しい課題を解決しました。

TPU 8tx

第8世代の3番目のシステムであるTPU 8txは、セキュアで機密性の高い推論に最適化されており、小規模トレーニングにも適しています。これは、最先端または独自のモデルや自律エージェントを最も機密性の高いデータと共に実行する規制対象の企業や政府向けに構築されています。

通常、データは保存時またはネットワーク経由で送信される際に暗号化されますが、コンピューターが処理している間はメモリ内で復号化する必要があります。TPU 8tと同じシリコン上に構築され、第5世代AMD EPYC CPUホストとペアリングされたTPU 8txは、ハードウェアレイヤーに直接セキュリティを組み込み、アクティブ使用中でも機密データとモデルの重みを保護および分離します。また、リアルタイム推論用に作成した低遅延Boardflyネットワークを採用することで、TPU 8txはマルチステップエージェントの移動を維持し、TPU 8tと比較して遅延を最大2倍低減し、パフォーマンスペナルティはほぼゼロです。

トレーニンググレードのコンピューティングと高速推論ネットワークを組み合わせることは、組織が単一システム上でモデルを同時に実行およびカスタマイズできることも意味します。TPU 8txにより、チームは機密データを移行することなく、プライベートデータを使用してモデルをファインチューニングし、大規模モデルを小規模モデルに蒸留し、強化学習を通じてエージェントをトレーニングできます。

機密性の高いエンタープライズワークロード向けに設計されたTPU 8txは、プライベートファインチューニングとセキュアなエージェント実行のためのハードウェアレベルの機密コンピューティングを提供します。

TPU 8i Max

4番目のシステムであるTPU 8i Maxは、別の問題、つまりメモリの壁のために構築されています。

数十のエージェントが、ソフトウェアコードベース全体や数時間分のビデオ全体で同時に作業する場合、メモリ帯域幅がすぐにボトルネックになります。そこで、私たちは2つの低遅延TPU 8iチップを取り、それらを単一パッケージに結合しました。

TPU 8i Maxは、コンピューティングとメモリを同期してスケーリングし、TPU 8iのコンピューティング、SRAM、HBM帯域幅をそれぞれ2倍にすることで、プロセッサに必要なデータが供給され、大規模ワークロードが停止しないようにします。さらに、TPU 8i Maxは既存のラックフットプリント内に2倍のシリコンを収容するため、データセンターは平方フィートあたりおよびワットあたりのコンピューティング能力を大幅に向上させることができます。

大規模なコンテキストウィンドウと最大のコンピューティング密度を実現するために設計されたデュアルチップTPU 8i Maxシステム。

ワークロード全体で柔軟性がありますが、第8世代TPUの4つのシステムは、エージェントライフサイクルのすべての段階で目的別に構築されたアクセラレータを顧客に提供します。TPU 8tはスケールアップトレーニング用、TPU 8iは低遅延推論用、TPU 8txは機密コンピューティング用、TPU 8i Maxは大規模コンテキストウィンドウとラックあたりの最高のコンピューティング密度用です。

すべての開発者にTPUを開放する

10年以上前に最初のTPUをリリースしたとき、TPUの処理能力を必要とするワークロードを実行していた企業はほんの一握りでした。ユースケースは特殊であったため、エンジニアは最適化されたフレームワークと手作業で調整されたコードを使用していました。

長年にわたり、AIが進歩するにつれて、より多くの企業がアクセラレータを使用するようになりました。現在、AIの採用は、TPUが幅広い企業やユースケースに最適であるという段階に達しており、その結果、私たちはTPUを汎用ハードウェアと同じくらい使いやすくするために、採用の障壁を取り除くことに体系的に取り組んできました。

この投資は、本日、これらの主要分野全体で結実しています。

すべてのPyTorch開発者にTPU開発を開放。コードの書き直しは不要： 先月、TorchTPUをオープンソース化しました。これにより、PyTorchコードとHugging Faceモデルが、vLLMやSGLangなどの主要なオープンソース推論エンジンのTPUバックエンドと並んで、TPU上でネイティブに実行できるようになりました。ハードウェア最適化を容易にするために、新しいオープンソースTPUエージェントスイート（現在プレビュー中）は、Claude Code、Cursor、Google Antigravityなどのコーディングツールに直接プラグインされ、数分でのTPUオンボーディング、ボトルネックの診断、プレーン言語を使用したカスタムカーネルの自動チューニングを自動化します。本番環境へのデプロイメントでは、新しいオープンソースXLA Serving Engineにより、Pythonでモデルをトレーニングし、TPU、GPU、CPU全体で低遅延C++ランタイムで直接サービングできます。
InferenceXおよびAgentXベンチマークでの業界をリードする本番パフォーマンス：
本番環境では、理論上のピークチップ速度よりも実際のAIワークロードでの結果が重要です。現実的なエージェントコーディングと長コンテキスト作業をテストする業界標準のInferenceXおよびAgentXベンチマークで、TPU上のネイティブvLLM-TorchTPUソフトウェアスタックは、最先端の価格パフォーマンスマークを達成しました。新しい評価では、これらの利点が幅広い最先端のオープンモデルとオープンソースサービングスタックに拡張され、高いモデル精度を維持していることが示されています。この同じハードウェアでの今後のソフトウェア最適化により、これらの結果はさらに向上します。
自律エージェントのためのアイドルコンピューティング無駄の排除： AIエージェントはステートフルであるため、データベースルックアップ、外部ソフトウェアツール、または人間のフィードバックを待っている間に、数秒または数時間一時停止することがよくあります。これらのポーズ中にエージェントをよりリソース効率的にするために、新しいAgent Compute Engineソフトウェアはアイドルセッションを自動的に一時停止および再開し、運用インフラストラクチャコストを削減します。
モデルステートレイヤー（TPU Sync）によるメモリの壁の突破： チップを中心にコンピューターを構築することは、メモリ、ストレージ、ネットワーキングをソフトウェアで統合することも意味します。エージェントが百万トークンのコンテキストと継続的な強化学習（RL）ループ全体で推論するにつれて、メモリはすぐにボトルネックになります。TPUクラスター用のモデルステートレイヤーであるTPU Syncをオープンソース化しています。TPU Syncは、チップHBM、ホストDRAM、共有ストレージ、データセンターネットワークを単一の共同設計されたメモリ階層に変換し、大規模なKVキャッシュをチップからミリ秒単位で自動的に階層化し、分散されたプリフィルおよびデコードノード間でコンテキストをストリーミングし、RL重みを同期してKV転送遅延と初回トークンまでの時間（TTFT）を90%以上削減します。
単一コントローラーからTPU全体に分散ワークロードをスケーリング： Google Kubernetes Engine（GKE）で一般提供が開始されたCloud Pathwaysは、Geminiの背後にあるGoogle DeepMindランタイムをすべてのGoogle Cloud顧客に提供します。単一コントローラーアーキテクチャとpathwaysutilsを使用して、大規模なTPUシステムを複数のスライスにわたって、あたかも単一のローカルマシンであるかのようにオーケストレーションし、事前トレーニング、強化学習、マルチホスト推論を実行できます。Cloud Pathwaysは、コローケーションされたPythonサイドカー、サブミニットスライスホットスワップ、および弾力的なリシャーディングにより、ハードウェアの障害を乗り越えて長時間実行されるジョブを継続させます。
GKEダイナミックスライシングによるオンデマンドでのカスタムTPUトポロジーの構築： 一般提供が開始されたGKEダイナミックスライシングは、光回路スイッチング（OCS）技術を使用して、物理ハードウェアプロビジョニングを論理スライス形成から分離します。TPUキューブを動的に大きなトポロジー（スーパーサイシング）に組み立てたり、オンザフライで小さな分離ワークロード（サブサイシング）にパーティション化したりすることで、このアップデートは、固定された手動のノードプール再作成サイクルを完全に排除します。このトポロジーの俊敏性により、ジョブの起動時間が最大5倍短縮され、障害からの復旧が最大4.5倍加速され、フリート全体の利用率とワークロードのスループットが最大化されます。

10年の経験を活かした共同設計

1年間で4つのTPUシステムと統合されたオープンソフトウェアスタックをリリースできるのは、シリコンアーキテクト、ネットワークエンジニア、コンパイラチーム、Google DeepMindの研究者が並んで作業した場合のみです。

ますます、私たちはAIを活用して次世代のAIインフラストラクチャを考案し、構築しています。Google DeepMindのAlphaChip強化学習システムの使用から、Geminiを使用してチップレイアウトを数週間ではなく数時間で提供することまで、TPU搭載AIサービスを使用して次世代TPUハードウェア開発を迅速に加速しています。これは真の共同設計であり、Google独自の差別化要因です。

本日午前9時（太平洋時間）の放送で、新しいTPUシステムの詳細をご覧ください。

Googleの最新ニュースをメールで受け取る

製品アップデート、イベント情報、特別オファーなどのニュースレターに登録してください。

お客様の情報は、Googleのプライバシーポリシーに従って使用されます。いつでもオプトアウトできます。