HN 日本語サマリー

← 一覧へ戻る
科学・技術

AMDのVeniceについてMahesh Subramony氏との対談

Talking Venice with Mahesh Subramony at AMD In-Depth (chipsandcheese.com)

29 pointsby rbanffy0 コメント

要約

この記事は、AMDのMahesh Subramony氏へのインタビューで、新しいEPYC VeniceプロセッサのSoC設計について語られています。2.5Dパッケージングへの移行、I/Oダイの分割、SP7とSP8プラットフォームの違い、そして32コアCCDのスケーリングにおけるトレードオフについて議論されています。このインタビューは、最新サーバーCPUのアーキテクチャ設計の深層を探るものです。

全文翻訳

AMDのVeniceについてMahesh Subramony氏との対談

こんにちは、インターネットの皆さん。

AMDのMahesh Subramony氏とAMD In-Depthで、新しいEPYC VeniceプロセッサのSoC設計について話し合いました。AMDの2.5Dパッケージングへの移行、I/Oダイを2つに分割する決定、SP7とSP8プラットフォームの違い、そして32コアCCDへのスケーリングに伴うトレードオフについて議論しました。

皆さんが楽しんでくれることを願っています!

以下のトランスクリプトは、読みやすさと簡潔さのために編集されています。

George Cozma: こんにちは、インターネットの皆さん。AMD In-Depthにお邪魔しています。ここではVeniceとZen 6について話しています。私と一緒にいるのはMahesh Subramony氏です。前回お話ししてからあなたの役割が変わったので、視聴者にあなたの仕事について教えてください。

Mahesh Subramony: その通りです。私は今、サーバーアーキテクチャチームに所属しています。私はデザインエンジニアリングのコーポレートバイスプレジデントであり、サーバーアーキテクチャを率いています。新しい挑戦に取り組むことができて興奮しています。

George Cozma: 素晴らしい。新しい挑戦といえば、VeniceはAMD初の高度なパッケージングを使用したCPUではありませんが、AMD初の2.5Dパッケージングを採用したサーバーCPUです。より伝統的な基板ベースの設計から2.5Dパッケージングへの移行で、どのような課題が生じましたか?

Mahesh Subramony: 私たちをその方向へ駆り立てたのは、現在移動しなければならないデータの量でした。前世代では、約700 GB/s未満だったと思います。CPUチップレットとI/Oダイ間のそのレベルの帯域幅では、標準的なパッケージングと以前のGMIリンクは、製品の観点から理にかなっていました。

しかし、今では1.6 TB/sについて話しており、各CCDはデータをI/Oダイに送り込む際にオーバープロビジョニングされています。もし従来のパッケージングでそれほど多くのデータを移動しようとしたら、それらのビットを輸送するためだけのエネルギー消費は、論文で主張されているピコジュール/ビットの数値に関係なく、SoC全体の電力予算の約10〜15%になるでしょう。

したがって、高度なパッケージングへの移行は、私たちが望むパフォーマンスと電力効率を提供するために大いに理にかなっていました。

課題は、CCDをこれらの非常に短いダイ間接続でI/Oダイに接続すると、間隔が非常に小さくなることです。インターフェイスでダイの幅を一致させ、その相互接続を短距離に保つ必要があります。これは、CCD接続に対応するために各ダイに十分なペリメータが必要であることを意味します。

以前の世代では、I/OダイとCCD間の接続は、パッケージを介して比較的長い経路をたどることができました。ダイの寸法を一致させたり、距離を数ミリメートルに抑えたりする同じ制約はありませんでした。

これらの新しい制約は、I/Oダイの形状に影響します。I/Oを引き出すのに十分なペリメータと、CCD接続のための十分な「ビーチフロント」が必要であり、ダイを近接させる必要があります。これが、I/Oを2つのダイに分割することになった根本的な理由の1つです。

高度なパッケージングにより、低電力、高帯域幅、低遅延のリンクが得られます。そのため、I/Oダイを2つに分割しても、電力や遅延の点でそれほど負担にはなりませんでした。

George Cozma: そして、それに加えて、I/Oダイを2つに分割する際に他にどのような設計上の考慮事項がありましたか?

Mahesh Subramony: 前世代では、単一のI/Oダイを持つことで、必要なものをすべて1つのダイに収め、それをすべてのCCD接続に展開することが容易でした。

今回行ったことの1つは、同じI/Oダイ設計を2回使用し、1つを180度回転させたことです。2つの異なるI/Oダイを作成するのではなく、パッケージ全体でミラーリングできる1つの設計を構築しました。

もちろん、ルートオブトラストやブートに必要な一部のI/Oなど、機能的な観点から1つだけ存在するIPブロックもあります。これらは、2つの同一のダイを使用すると複製されるため、分割に伴ういくらかの面積オーバーヘッドがあります。

2番目の考慮事項は、適切なファブリックトポロジーを持っていることを確認することでした。2つのダイが単一のSoCとして連携する際に不利にならないように、ミラーリングされたトポロジーが必要でした。

2つのI/Oダイを見ると、それらを2つのドメインと考えることができますが、NPS1構成では、Venice SoCは単一のドメインとして動作する必要があります。ミラーリングされた設計で適切なサービス品質、帯域幅、遅延を提供できるようにすることが課題でした。

SoCをますます多くのコア数にスケーリングしていくにつれて、タイルアプローチがますます有利になると考えています。それらがもたらす課題は、私たちが今後解決していくべきことです。

George Cozma: SoCのスケーリングについて、SP8にも2つのI/Oダイがあります。これらはSP7のダイと同じですか、それとも異なりますか?その決定は何によって推進されましたか?

Mahesh Subramony: SP8を見たとき、エンタープライズ市場はやや異なる要件を持っていました。コストは、これらのソリューションを構築する際に常に注意を払っていることですが、その市場のコンピューティング要件は、より大きなSP7設計でターゲットとしていたものよりも低かったです。

SP7のI/Oダイで負担していたオーバーヘッドは、SP8にはあまりうまく適合しませんでした。同時に、SP8は多数のI/Oレーンを必要としましたが、SP7はコンピューティングとメモリ帯域幅に焦点を当てていました。私たちは岐路に立たされました。

より簡単な解決策は、1つのスーパーセットI/Oダイを構築することでしたが、それはSP7とSP8の両方の実装に追加のコストを課すことになります。代わりに、それらの要件を満たすために2つの異なるI/Oダイ設計を作成することを選択しました。

SP7のI/Oダイは、より多くのコンピューティング、少ないI/Oレーン、より多くのメモリチャネルのために構築されています。SP8では、メモリチャネルが半分になり、ソケットあたり128のPCIeレーンすべてが利用可能になりますが、コア数は少なくなります。Zen 6側で最大96コア、Zen 6c側で最大128コアです。

これらは異なる製品ターゲットなので、それらを提供する異なるI/Oダイを持つことは理にかなっていました。

George Cozma: そして、異なるニーズについて言えば、12コアCCDはI/Oダイへのリンクが3つありますが、物理的に33コアを持つ32コアCCDは4つです。その決定はなぜ行われましたか?

Mahesh Subramony: AMDでは、製品要件に密接に連携して設計しています。32コア設計の4つのSDPポートは、約8コアごとに1つのポートというルールにほぼ従っています。これらは、CCDがコアがパフォーマンスとIPCターゲットを達成するために必要な帯域幅を引き出せるようにサイズ設定されています。

12コアCCDは異なります。これらのパーツはMRDIMMとペアリングされる予定であり、CCDあたりのコア数は少ないですが、12,800 MT/sのMRDIMMの16チャネルを飽和させるためには、各CCDがはるかに多くの帯域幅を引き出す必要があります。

したがって、12コアCCDの3つのSDPポートは、CCDあたりのSDP帯域幅だけを見ると過剰に見えるかもしれません。しかし、目標は、各CCDがSoC全体のメモリ帯域幅の飽和に貢献できるようにすることです。

George Cozma: その32コアCCDに戻ると、物理的には33コアあります。冗長なコアを追加したのはなぜですか?また、それがメッシュトポロジーにどのように影響しましたか?

Mahesh Subramony: コストのための設計は、私たちの主要な原則の1つです。設計レイアウトを行う際に最初に考慮することではありませんが、機会があればそれを活用します。

CCDが大きくなるにつれて、歩留まりに影響を与える欠陥に遭遇する可能性が高くなります。このCCDを組み立てているときに、33番目のコアを収容できることがわかりました。これは、33番目のL3スライスを追加し、メッシュを維持しながら、それらのコアとその関連キャッシュスライスを収穫するアーキテクチャ機能を持つことも意味しました。

私たちは常に、そのCCDのアクティブコア数を32に保ちます。33コアのアクティブコアを持つ製品はありません。これにより、キャッシュの関連性やメッシュトポロジーが比較的単純に保たれます。

高度なプロセスノードで構築されたこれらの大きなダイは非常に高価なので、スペアコアがあることで、欠陥のあるコアを収穫し、完全に機能する32コアCCDを製造する柔軟性が得られます。これにより、大量生産で良好な歩留まりを得ることができます。

George Cozma: 素晴らしい。SoC設計の議論を締めくくるために、12コアCCDと32コアCCDのもう1つの大きな違いは、L3キャッシュの量とメッシュのストップ数です。余分なメッシュストップとより大きなL3のために、それらの間に遅延の違いはありますか?

Mahesh Subramony: あなたがこれを測定することを知っているので、ヒントをあげましょう。L3が大きいと、キャッシュヒットまたはミスを判断するのに時間がかかります。純粋な遅延の観点からは、要求をさらに外に送信する前に、128 MB L3をチェックするのに数クロック余分に費やします。

この追加の遅延を投機的に隠すために検討できるいくつかのテクニックがありますが、より大きなキャッシュはルックアップペナルティを課します。それ以外では、ファブリックからメモリへのパスはほぼ同じです。

しかし、メモリ遅延を孤立して見るべきではありません。重要なのは、ワークロードが経験する実効遅延です。より大きなキャッシュは、特にCCD上に多くの常駐スレッドがある場合、一般的にヒット数を増やします。これは、CCDとそのキャッシュを一緒に成長させた理由の1つです。

追加のキャッシュ容量は、それが恩恵を受けるワークロードでの追加ルックアップ遅延を十分に相殺すると信じています。それらの追加ヒットはメモリにアクセスするよりもはるかに高速なので、L3ルックアップに費やされた数サイクルを補うことができます。

DRAMからのクローズドページロードで、それ以外はアイドル状態のCPUを測定している場合、2つのCCD間に遅延の違いが見られるでしょう。しかし、その違いは主にL3ルックアップ遅延に起因します。

George Cozma: 将来を少し見据えると、12コアCCDは、以前の8コアCCDと同様に、3D V-Cacheをサポートできます。3D V-Cacheを備えた高密度CCDも可能性として考えられますか?たとえば、1つのCCDに384 MBのL3を搭載するなどです。

Mahesh Subramony: その質問への答えは、96コア製品で何をしているかを見ることです。X3Dテクノロジーを備えた12コアCCDがあり、さらに96 MBのL3を追加しています。これにより、CCDあたりのL3合計は約144 MBになります。

より大きく、より高密度のCCDでは、トレードオフを少し異なって考えます。アクティブコア数が少ない場合、既存のL3キャッシュはそれらのコアで利用可能になるため、アクティブコアあたりの実効キャッシュ容量が増加します。

高密度設計の上にさらに大きなX3Dダイを配置するのは高価であり、それが実際にどれだけの追加パフォーマンスをもたらすかを問う必要があります。全体的な電力予算の観点から、それらの多くのコアを実行する場合、最初に引きたいレバーの1つは、それらにさらに電力を供給して周波数を上げることです。

256コア製品は、非常にタイトなコアあたりの電力予算で、バランスの取れたスループットのために設計されています。パフォーマンスを向上させるために、まずキャッシュを増やすことが最善策でしょうか?おそらくそうではありません。まず帯域幅や周波数を増やす方法を探すでしょう。それほど多くのスタックキャッシュを追加するのは高価なアプローチなので、現時点ではそれに焦点を当てていません。

George Cozma: ありがとうございます。通常、ここでインタビューを終えるときは、好きなチーズの種類を尋ねます。しかし、すでに尋ねたので、最近新しいチーズを試しましたか?

Mahesh Subramony: いいえ、試していません。私は、食べるものに気をつけなければならない年齢になっていると思います。チーズは贅沢品なので、機会があれば好きなものに留めます。

George Cozma: では、Maheshさん、本当にありがとうございました。

Mahesh Subramony: いつでも喜んで、George。

George Cozma: このようなインタビューがお好きな方は、PayPalとPatreonのリンクがあります。また、インタビューを読むことを好む方のために、Chips and Cheeseのウェブサイトにトランスクリプトが掲載されます。今回のインタビューは以上です。重ねて御礼申し上げます。それでは皆さん、良い一日を!