HN 日本語サマリー

← 一覧へ戻る
科学・技術

Cerebras CS4

Cerebras CS4 (cerebras.ai)

409 pointsby sunils34248 コメント

要約

Cerebras CS-4は、AI推論を最大30倍高速化する新しいラック規模のソリューションです。GPUシステムと比較して大幅に高速な推論性能、経済性の向上、およびハイパースケール容量の展開パスを提供します。WSE-3 Turboチップを搭載し、モジュラー設計と革新的な電力・冷却・I/Oシステムにより、製造、展開、保守、アップグレードを簡素化し、フロンティアAIのためのアーキテクチャとなっています。

全文翻訳

最速のAIがさらに高速化。

全く新しいCerebras CS-4をご紹介します。これは、GPUと比較して最大30倍高速な推論、経済性の向上、そしてハイパースケール容量を容易に展開できるパスを提供する革新的なラック規模ソリューションです。これはフロンティアAIのためのアーキテクチャです。

[画像]

GPUより最大30倍高速

WSE-3 Turboを搭載したCS-4は、GPUシステムと比較して最大30倍高速な推論を実現し、本番環境で利用可能な最速の推論速度の新記録を樹立しました。

より高い超高速スループット

CS-4ソリューションは、推論のパレートフロンティアをシフトさせ、CS-3と比較してワットあたりのスループットを最大10倍向上させ、本番GPUシステムよりも最大30倍高速にトークンを生成します。その結果、スループットとインタラクティビティの両方を提供するシステムが実現しました。

フロンティア対応アーキテクチャ

ウェハー間インターコネクトのレイテンシを2マイクロ秒に短縮することで、CS-4は50兆パラメータを超えるモデルで毎秒1,000トークン以上を生成し、前例のない規模でインタラクティブなデコードパフォーマンスを維持します。

NEXUSラック規模プラットフォーム

展開を高速化するためのモジュラーラック設計

CS-4は、Cerebras Nexus Platform Architecture上に構築された最初のシステムです。これは、コンピューティング、電源、I/Oという3つの基盤要素からなるモジュラーコンセプトに基づいて構築されており、それぞれが製造、展開、保守、アップグレードを簡素化するための重要なイノベーションを備えています。

[画像]

[画像]

モジュラーコンピューティングバックパック設計

Cerebrasはサーバーを根本的に再考しました。各Wafer-Scale Backpackは、ウェハー、電源変換、直接液体冷却、高速I/O、および制御電子機器を、コンポーネントを50%削減したコンパクトな3Dパッケージに統合した自己完結型アセンブリです。この設計により、製造が簡素化され、展開時間が数日から数時間に短縮されます。

高密度電源供給

従来のGPUボードの約50mmと比較して、プロセッサからわずか0.5mmという近さで電源を供給することで、CS-4はボードレベルでの電力損失をほぼ排除します。これにより、WSE-3Tに2倍の電力を供給でき、より高い動作周波数と高速なトークン生成が可能になります。

次世代ウェハーI/Oインターフェース

CS-4は、I/O帯域幅を倍増させレイテンシを削減する新しいプログラマブルI/Oサブシステムを導入しており、集約型および分散型ソリューションの両方にメリットをもたらします。Wafer I/O Moduleは、スイッチなしでラック内およびラック間でウェハーをリンクすることも可能にし、ウェハー間レイテンシを2マイクロ秒という低さに抑え、数兆パラメータを持つモデルのインタラクティビティの鍵となります。

最速のウェハーがさらに進化

CS-4は、世界最大かつ最速のAIプロセッサであるWSE-3 Turboで動作します。4兆個のトランジスタと90万個のAIコアが、250 PFLOPSのコンピューティング能力と毎秒43.2ペタバイトのメモリ帯域幅を提供します。

コンピューティング能力と帯域幅が2倍に。レイテンシは半分以下に。AIの速度とスループットにおける飛躍的な進歩です。

CS-4の初回出荷は今四半期に開始。

データセンターに最速のAIを導入しましょう。

[画像]