Zen 6についてAMDのMike Clark氏と詳細に語る
Talking Zen 6 with Mike Clark at AMD In-Depth (chipsandcheese.com)
要約
この記事は、ZenアーキテクチャのオリジナルアーキテクトであるMike Clark氏へのインタビューです。Zen 6およびZen 6c CPUアーキテクチャについて、Zen 5からの進化、両者の違い、ベクタースケジューラ容量の増加、実行ユニットの変更、AIワークロード向けのVNNIユニットの追加、分岐予測の改善、L2キャッシュ帯域幅の向上といった設計上の決定について解説しています。また、LPDDR5Xのような異なるメモリ技術への対応についても触れています。
全文翻訳
Talking Zen 6 with Mike Clark at AMD In-Depth
皆さん、こんにちは。
AMDのMike Clark氏とZen 6について、Zen 5からの進化、Zen 6とZen 6cの違い、そしてそれらの変更を推進した要因について話し合いました。
お楽しみいただければ幸いです!
以下のトランスクリプトは、読みやすさと簡潔さのために編集されています。
George Cozma: こんにちは、インターネットの皆さん。AMD In-Depthにお越しいただき、Veniceについてお話ししています。今回は、以前にもお越しいただいたMike Clark氏をお迎えしています。視聴者の皆さんに自己紹介をお願いできますか?
Mike Clark: こんにちは、Mike Clarkです。Zenのオリジナルアーキテクトです。「Zen Daddy」と呼ばれることもあります。AMDでコアの開発に33年間携わってきました。今回も素晴らしいものが登場しますので、今日私が代表するデザインチームを非常に誇りに思っています。
George Cozma: Zen 6cを実際に触ってみました。Zen 6とZen 6cの変化、私の記事で「Zen 6ファミリー」と呼んでいるものについてお話ししましょう。なぜ前世代と違うのですか?
Mike Clark: はい。Zen 4から、私たちは2つのコアファミリーを持つという進化を続けてきました。以前は、より高密度な技術をエリアプレイとして使用していました。この世代では、多くのことを学び、高密度版のコアを完成させる過程で、それを活用してコア内のIPC(Instructions Per Clock)をさらに向上させたいと考えました。ですから、詳細を見ると、かつてのクラシックデザインが、現在は高周波デザインと見なされています。そして、高密度技術は、4MB/コアのL3キャッシュをすべて実装した、最高のパフォーマンスコアとなっています。つまり、32コアで128MBのL3キャッシュを持ち、そのコアで最高のIPCを実現しています。
George Cozma: 素晴らしい。これまでのところ、Zen 6cではベクタースケジューラが少し大きくなっていることに気づきました。Zen 6cでそれを増やした理由は何ですか?
Mike Clark: ええ、増やしたのはそれだけではありません。私たちが従う原則の一つは、ソフトウェアが最適化しなければならないような、2つのアーキテクチャ間の差を作り出さないことです。両者に同じフィット感とフィールを持たせ、同じ最適化が適用できるようにしたいのです。しかし、Zen 6cは周波数ターゲットが低いため、高周波コアが達成しなければならない最大周波数に達する必要がないため、キューの容量を少し増やすことができます。浮動小数点スケジューラはその一例です。コア全体には他にも多くのキューがあり、Zen 6cではそれらが大きくなっており、IPCをさらに引き出し、SMT(Simultaneous Multi-Threading)環境でもより大きなレバレッジを得ることができます。
George Cozma: 興味深いですね。Zen 6とZen 6cはどちらもZen 5のデザインを基盤としていますが、Zen 5の興味深い点の1つはデュアルデコード設定でした。単一スレッドが両方のデコードクラスタをより有効に活用できるように、フロントエンドは大きく変更されましたか?
Mike Clark: はい。おっしゃる通り、Zen 5は新しい基盤であり、2つの基本ブロックをフェッチしてラインに流す能力がありました。しかし、1つのスレッドがより大きなフットプリントのワークロードを実行する場合、一部はI-cacheに、一部はop cacheにヒットし、すべてを同期させようとすると、非常に複雑になります。そのため、私たちはその最適化に多くの時間を費やし、デリバリーと電力の観点からより効率的にしました。無駄な電力が少なくなり、新しいフロントエンドからのデリバリーがより効率的になりました。
George Cozma: 素晴らしい。実行エンジンに進むと、整数乗算ユニットの数が3つから2つに減っていることにも気づきました。その選択を推進したことについてお話しいただけますか?
Mike Clark: それはZen 5のデザインから来ています。Zen 5では、より統合されたスケジューラを持っていました。スケジューラをシンプルにするには、スケジューリング先のユニットを非常に均一にしたいものです。そして、私たちがそのスケジューラを設定した方法では、スケジューリング先のグループに3つ目の乗算器を追加するのは簡単で、複雑さを増しませんでした。Zen 6では、アーキテクチャを真にスケールアウトするには、より分散されたスケジューラに戻る必要があることに気づきました。これらは現在ALUにスケジューリングしています。Zen 5では、その追加の乗算器からの大きな性能向上は見られなかったので、エリアとスケジューラを最適化するために、2つの乗算器に戻しました。
George Cozma: 整数乗算といえば、ベクター側ではVNNIユニットが2つ追加されましたね。それらを追加したきっかけと、設計のどの段階で追加したのか教えていただけますか?
Mike Clark: 会議でも言いましたが、これらは長期的な設計プログラムです。私たちはZen 6をエージェンティックコアとして設計していたわけではありません。プロジェクトを開始したとき、誰もその言葉を使っていませんでした。しかし、Zen 5はAIワークロードのための全く新しい基盤であり、私たちは常にコアがAIにおいて役割を果たすと信じていました。オーケストレーション、データ型操作、小規模モデルなどです。そのため、私たちは常にコアをAIに適したものにすることに注力してきました。GPUには勝てませんし、それが目的でもありません。推論の方向性を見て、VNNIがもう少し必要だと判断し、チームはそのために団結しました。これらはリードタイムの長いプロジェクトで、フロアプランはすでに決まっていましたが、チームは団結し、さらに2つのVNNIパイプを押し込むことができ、それは大きな成功でした。
George Cozma: ベクター側に戻りますが、Zen 5の奇妙な点の1つは、配線はすべて存在したものの、ロードユニットは一度に2つのベクターロードしか実行できなかったことでした。Zen 6コアでは、それらが128ビットまたは256ビットの場合、4つのベクターロードを可能にするために何が変わりましたか?
Mike Clark: 256ビットロードは可能です。512ビットロードを2つ実行できたので、すでに1024本の配線がそこに送られていました。明らかに、それらを1つの連続したセットとしてではなく、断片的に使用することは設計を複雑にします。Zen 5でも常にやりたかったことだと思いますが、多くの変更と動作させることに集中していたため、Zen 6チームに任せました。彼らは素晴らしかったです。結局、私たちは皆AMDで一つのチームですから、ロードマップの異なる時点で物事が交差することもあります。今回はその時でした。
George Cozma: キャッシュへの帯域幅についてですが、Zen 5のL2には、読み取り時に常にサイクルあたり64バイトを達成できないという奇妙な点がありました。Zen 6では、それを可能にするために何が変わりましたか?測定したところ、確かに達成できています。
Mike Clark: 正直なところ、時にはこれらのことの一部が見えなくなることがあります。多くの場合、過剰なプリフェッチを行っており、L2にヒットするプリフェッチがL2帯域幅を奪っていました。そのため、デマンドリクエストと並行してプリフェッチを維持できるようにし、競合を減らし、サイクルあたり64バイトという目標を達成できるようにしました。
George Cozma: 素晴らしい。フロントエンドに戻りますが、最も重要な分岐予測器です。分岐ミス予測のレイテンシが減少したように見えます。つまり、分岐をミスしたときに回復にかかるサイクル数が減っています。さらに素晴らしいのは、精度が低下していないことです。では、どのようにして、より高速な分岐予測器だけでなく、Zen 5のすでに非常に正確な予測器よりもわずかに精度が高いものを実現したのですか?
Mike Clark: 分岐予測チームは、ご存知の通り、非常にアルゴリズム的です。設計空間は広く、多くの探求があり、AIさえも最適化方法の発見に役立っています。テーブルの数、保持する情報量、精度など、これは素晴らしい最適化問題です。そこで、より効率的なものを作ることにしました。テーブルのレイアウトをより効率的にすることで、規模を拡大したくないと考えていました。そして、私たちは常にパイプライン長に焦点を当てています。分岐予測器がいかに優れていても、予測が難しい分岐は常にあり、ミスをすることは避けられません。そのため、各世代で、間違ったときにできるだけ早く復旧することに執拗に焦点を当てています。リダイレクトをフロントエンドに戻し、できるだけ早くフローさせるために、多くのユニークなトリックを使っています。そして、それを観察してくれたのは素晴らしいことです。
George Cozma: ええ。Zen 6にはまだ触れていませんが、Zen 6cには触れる機会があり、SPECint 2026では、AMDの最速のZen 5サーバーCPUに匹敵します。クロックの差を考えると、これは非常に印象的です。これをまとめ、コアの外に出てL3に移ると、12コアと32コアのCCDの間には明らかにトポロジーの違いがあります。コア内でこれらの違いをどの程度緩和し、レイテンシを許容する構造を構築して、わずかに増加したL3レイテンシを補償することができましたか?
Mike Clark: いつも話しているように、設計はバランスが取れている必要があります。構造の容量が増えると、新しい技術がそれを縮小するのに役立ち、物理的な距離は線形に増加しませんが、残念ながら距離は増加します。L3内には、話せない多くのトリックがあります…
George Cozma: 秘訣ですね!
Mike Clark: L3メッシュ内の帯域幅を維持し、コアへの供給を継続できるようにするためです。そしてコア内では、これらの高いレイテンシを処理するためにキューを拡張しています。
George Cozma: 素晴らしい。最後の質問の前の質問ですが、VeranoはEPYCエコシステムにLPDDR5Xを追加しています。コアを設計する際に、LPDDR5XとDDR5の間で考慮しなければならなかった設計上の考慮事項はありましたか?
Mike Clark: CCXレベルでは、コアあたりの帯域幅に多くの焦点を当てています。MaheshがSDPポートについて多く話していましたが、ポートあたり32バイトの読み取りが可能なので、CCDとIODの間の帯域幅が十分であることを確認するように努めています。しかし、MRDIMMで既に帯域幅は十分に確保されていたため、この構造、ウィングレット、そして異なるメモリ技術の選択は、コアの構築方法に大きな影響を与えませんでした。
George Cozma: 素晴らしい。通常、ここで好きなチーズの種類を尋ねるところですが、もう知っているので:最近新しいチーズを試しましたか?
Mike Clark: はい。新しいお気に入りはコティハチーズです。
George Cozma: ああ!
Mike Clark: タコスをたくさん食べています。
George Cozma: タコスにはコティハが最高ですね。本当に素晴らしいです。さて、お話しいただき本当にありがとうございました。このようなビデオがお好きな方は、いいねとチャンネル登録をお願いします。アルゴリズムに役立ちます。説明欄にPayPalとPatreonのリンクがあり、Chips and Cheeseのウェブサイトにはこのトランスクリプトもあります。本当にありがとうございました。
Mike Clark: ジョージ、お招きいただきありがとうございます。この素晴らしいAMD CPUデザインチームが作成したものについてお話しできるのを楽しみにしています。あなたはいつも良い質問をたくさんしますね。もっとお答えしたいのですが、秘訣を守る必要があるため、皆さんに私たちの思考プロセスの一部、直面する課題、そしてそれらをどのように克服できたかを理解していただくお手伝いをすることを楽しんでいます。
George Cozma: ええ、あなたと話すのはいつも楽しいです。あなたのやっていることだけでなく、チームがやっていることや、将来楽しみにしていることについてもです。本当にありがとうございました。
Mike Clark: ありがとうございます。
George Cozma: 次回お会いしましょう。皆さん、良い一日を!