HN 日本語サマリー

← 一覧へ戻る
科学・技術

AMDのInstinct MI455X:太陽を目指して

AMD's Instinct MI455X: Aiming for the Sun (chipsandcheese.com)

54 pointsby ingve25 コメント

要約

AMDは、AIワークロードに特化した最新のGPUであるInstinct MI455Xを発表しました。これは、CDNA5アーキテクチャに基づき、大規模なAIデプロイメント向けに設計されており、計算性能、メモリ帯域幅、容量が大幅に向上しています。MI455Xは、最大72基のGPUを単一ポッドに統合できるHeliosラックソリューションと連携し、新しいスケーラブルなネットワークアーキテクチャを採用しています。

全文翻訳

AMD’s Instinct MI455X: 太陽を目指して

編集者注(2026年7月25日): L2の動作と、ダイ間インターフェイスの帯域幅に関する追加情報で記事が編集されました。

インターネットの皆様、こんにちは。AMDのAdvancing AIイベントにて、AMDの最新GPUであるInstinct MI455Xを見ていきます。これは、同社のAIスタックのトップを飾る旧型Instinct MI355Xの後継製品です。AMD初のラック規模AIデプロイメント向けGPUであり、新しいCDNA5アーキテクチャに基づいています。コンピュートユニットとSoCに大幅な変更が加えられ、コンピュート性能の向上、メモリ帯域幅の改善、メモリ容量の拡大、そしてTSMCのCoWoS-Lを用いたパッケージングが特徴です。

[画像]

Instinct MI455Xパッケージ

これは新しいHeliosラック規模ソリューションと共に提供され、以前のMI355Xシステムが8基だったGPU数を、単一ポッドで最大72基までスケールアップできます。また、UALink over Ethernet (UALoE) に基づく新しい耐障害性スケールアップネットワークアーキテクチャも特徴で、ラック全体でシングルホップのオール・トゥ・オール通信を実現します。

[画像]

AMD Heliosラック

単一のMI455Xは、8つのアクセラレータコンプレックスダイ(XCD)に256のワークグループプロセッサ(WGP)を搭載し、最大2.4GHzの「エンジン」クロックを備えています。これにより、ピークコンピュート性能は、マトリックス/ベクトルFP32およびベクトルFP16で315 TFLOP、OCP MXFP4では最大40.26 PFLOPに達します。これに、2048ビットバスで12スタックのHBM4がペアリングされ、合計192チャネルとなり、各GPUは合計432 GBのメモリを23.3 TB/秒で利用できます。

[画像]

MI455Xの概念概要

CU/WGPの変更点

「コンピュートユニット」の変更点として、AMDはCDNA5ではCUではなくWGPをカウントするようになりました。これは、コンシューマー向け製品で1つのWGPが2つのCUとしてカウントされるのとは異なります。

しかし、RDNA4と同様に、各WGPは4つのデュアルイシューWave32 SIMD32ユニットと4つのスカラーユニットで構成されており、これはCDNA4の4つのシングルイシューWave64 SIMD16ユニットから大幅な変更です。

これにより、各WGPはサイクルあたり最大256のパケット化されたFP32演算(FMAを使用する場合は512 FLOPS)を実行できます。

[画像]

この新しいSIMD設計をサポートするため、VGPRレジスタファイルが再編成され、どのウェーブも最大1,024のVGPRにアクセスできるようになりました。これは、以前のCDNAおよびRDNAアーキテクチャでウェーブがアクセスできたVGPR数の4倍です。各SIMDはCDNA4と同様に128kBのベクトルレジスタを備えており、Wave32対Wave64のため、実質的に利用可能なレジスタ数は倍の1024になりますが、RDNA4の192kBよりは少ないです。また、単一のウェーブフロントが、場合によってはSIMD全体を占有することが期待されます。

マトリックスユニットも強化されており、各マトリックスユニットはサイクルあたり最大8,192のFP4演算を実行でき、WGPあたり4つのマトリックスユニットがあるため、WGPあたりサイクルあたり最大65,536のマトリックス演算を実行できます。

[画像]

これは、新しいアーキテクチャではFP4とFP8のみが実質的に高速であり、残りの性能向上はSIMD幅を16から32に拡大したことによるものであることを意味します。

[画像]

Instinct MI455Xメモリサブシステム階層

WGP間のキャッシュもこの新しい設計をサポートするために変更されました。L1データキャッシュとLDSの両方が倍増し、L1データキャッシュは64 KB、L320 KBになりました。これらのキャッシュの帯域幅も倍増し、クロックあたり2 x 256バイトを処理できるようになりました。

各XCDには32のアクティブなWGPがあり、34の物理WGPのうち2つは無効化されています。これらは2つのシェーダーエンジン(SE)に分割され、各SEは16のWGPを持ちます。シェーダーエンジンは「ブロードキャストアービター」とペアリングされ、RDNA4のL1バッファ(GL1)に取って代わりました。これは現在SEレベルにあり、低レベルのシェーダーアレイレベルではありません。これはライトコンバインバッファとして機能すると同時に、おそらくデータをブロードキャストすることにより「最大4倍」の帯域幅増幅を提供します。

メモリサブシステムはマルチキャストロードを可能にし、冗長なメモリトラフィックを削減することでマトリックス乗算を大幅に加速します。C=A×Bを計算するGEMMを想像してください。通常、各ウェーブフロントは、例えばオペランドAのタイルを各WGPのLDSに個別にロードします。マルチキャストロードを使用すると、単一のマルチキャストロード命令で、このオペランドAのタイルをすべての関連WGPにロードできます。

各ウェーブフロントは異なるBタイルをロードしますが、MI455Xは共通のAデータをL2から一度フェッチし、ブロードキャストアービターを使用してそれをすべての関連WGPのプライベートLDS割り当てに複製できます。

AMDはこの帯域幅増幅を最大4倍と呼んでいますが、増幅はL2の後で発生し、L2またはHBMの帯域幅を4倍にするわけではありません。代わりに、1単位のL2トラフィックが4単位のローカル配信データになり、冗長なキャッシュ読み取りとチップレットリンクトラフィックを削減しつつ、各WGPにはデータのコピーが近くに配置されます。

SoC/キャッシュの変更点

ベースダイに目を移すと、MI455Xは2つのファブリックキャッシュダイ(FCD)に分散された192 MBのグローバルL2キャッシュを備えています。各FCDは96個の1 MB SRAMブロックを含み、96 MBのL2容量をそのキャッシュドメインに接続された128 WGPに提供します。各FCDは最大27 TB/秒のL2帯域幅を提供でき、パッケージ全体で合計54 TB/秒になります。

この構成はキャッシュドメインの動作方法も変更します。CDNA 3およびCDNA 4では、1つのベースダイに接続されたCUは、同じパッケージ内の別のベースダイのキャッシュにアクセスできました。CDNA 5はこの機能を削除しました。つまり、1つのFCDに接続されたWGPは、もう一方のFCDのL2キャッシュにアクセスできません。その点では、MI455XはAMD EPYC CPUにより似た動作をします。EPYC CPUでは、あるCCD上のコアが別のCCDに接続されたキャッシュに直接アクセスできません。

AMDはこの変更により、XCD間のアトミック操作の動作を改善し、MI300シリーズのXCDが必要としたグローバル可視性のためのカーネルフラッシュ境界を排除し、L2データの再利用を増やしました。2つのL2ドメインは互いに分離されていますが、各96 MBキャッシュはGPU内の任意のグローバルアドレスに関連付けられたデータを保持できます。これにより、WGPのローカルL2ドメインは、ダイ間インターフェイスを横断するトラフィックを必要とする可能性のあるデータをキャッシュできます。

[画像]

そのインターフェイスと言えば、2つのFCDはダイ間インターコネクトによって接続されており、約14 TB/秒の双方向帯域幅を提供します。FCDは12スタックのHBM4にも接続されており、各スタックは2,048ビットインターフェイスで36 GBの容量を提供します。ピンあたり約7.6 GT/sで、これらのスタックは合計432 GBのHBM4と23.3 TB/秒のメモリ帯域幅を提供します。

MI455Xパッケージの外部にあるI/Oについては、各FCDはIOダイに接続されており、GPUパッケージをホストCPU、スケールアップネットワーク、およびスケールアウトNICに接続するという非常に重要な役割を果たします。以前はPCIeによってサービスされていたCPUからGPUへのリンクは、256 GB/秒の双方向帯域幅を提供する専用の16レーンAMD Infinity Fabricに置き換えられ、GPUパッケージとホストCPU間のコヒーレントなリンクを可能にします。

ネットワーキングとAMD Heliosラック規模

スケールアップと言えば、MI455Xアクセラレータと共に、大規模AIインフラストラクチャ展開のための検証済みラック規模プラットフォームをローンチします。これは、MI455Xが持つ36 x 400 Gbit/秒のUALoEインターフェイスの増加によって可能になり、それぞれ2 x 200 G Ethernetレーンを実装し、GPUあたり3.6 TB/秒のピーク双方向帯域幅を構成します。

[画像]

MI455Xはまた、トラフィックを最適なリンクに自動的に関連付け、通信に必要なトポロジー認識を軽減する分割DMAアーキテクチャを導入しています。

HeliosはOCPの新しいOpen Rack Wideフォームファクターを使用しており、幅1.2m、奥行き1.3mのキャビネットで構成されます。GPUは、それぞれ1U高の9つのコンピュートトレイの2つのグループに配置されます。各トレイには4つのMI455Xと1つの96コアEPYC 9006 SP7が搭載されています。各CPUは16 x 64GB DIMM(合計1TBメモリ)と、SSD用の5つのE1.Sスロットとペアになっています。6つのHeliosスイッチトレイは、合計12のスイッチを提供し、GPUあたり3つのUALoEリンクを介して直接接続されます。各スイッチは200Gb/sで432リンクを提供し、スイッチあたり合計21.6 TB/秒になります。これは、双方向で260 TB/秒のスケールアップ帯域幅に相当します。

[画像]

スケールアウトは、4つまたは6つのPensando NICを搭載できる2つのボードを介して提供され、エンド顧客が望むスケールアウトの量に応じて、最大43 TB/秒のバックエンド帯域幅を提供します。1つのラックに72基のGPUを搭載したHeliosデプロイメントは、MXFP4で最大2.9 EF、FP32で22.6 PF、さらに31 TBの共有HBM4を、合計1.7 PB/秒のメモリ帯域幅で提供できます。

結論:王は去り、王は生き続ける

GCNマイクロアーキテクチャは、Tahiti、Fiji、Vega、そして最初の4世代のCDNAから始まり、ほぼ15年間にわたりAMDのすべてのコンピュートアクセラレータの基盤となってきました。CDNA5により、AMDはRDNAシリーズに基づいたマイクロアーキテクチャに移行し、長年続いたGCNマイクロアーキテクチャのラインに終止符を打ちました。

そして、その終止符と共に、AMDのデータセンターアクセラレータの新しい物語が始まります。それは、単一のGPUだけでなく、ラックあたり最大72基のGPUへのスケーリング、そしてラック数のスケーリングに関するものです。そのためにAMDは、EPYCサーバーCPU、Pensandoネットワーキング、Radeon部門のベースGFX12まで、ほぼすべての事業部門に依存し、それらをすべてAMD Heliosラックに統合しています。