HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

Intel D270 GPU AIアクセラレータ – 最大480 GB LPDDR5X搭載

Intel D270 GPU AI Accelerator–Up to 480 GB LPDDR5X (intel.com)

92 pointsby hurricanepootis36 コメント

要約

Intelは、エージェント型AIワークロードに最適化されたデータセンターGPU「D270」を発表しました。このGPUは、最大480 GBのLPDDR5Xメモリ、350Wの空冷設計、PCIe 5.0インターフェースを備え、長文脈処理や高同時実行セッションを効率的に処理し、インフラコストを抑えながら推論能力をスケーリングすることを目指しています。

全文翻訳

Intel® GPU Dシリーズ インフラではなく推論をスケールさせる Intel® GPU D270 │ 推論最適化データセンターGPU 概要 ユースケース 特長 はじめに エージェント型AIがデータセンターのワークロードを変えています エージェントは書き込みよりもはるかに多くを読み取ります:長いコンテキスト、マルチステップワークフロー、プリフィル(prefill)に支配されるコンピューティング。需要が増加するにつれて、課題は帯域幅を超えて拡大します。Intel DシリーズGPUは、この新しいエージェント型AI時代のために構築されており、実用的な電力とコストの制限内で、より大きなコンテキスト、より多くの同時セッション、より多くのトークンを効率的に処理します。 カードあたり最大480 GB LPDDR5Xメモリ 消費電力 350 W 空冷式 コンピューティング 32 Xᵉ Xᵉ3Pコア コンピューティング 256 XMX Xᵉ3P行列エンジン エージェント型AIのスケーリング エージェントフリート数 数千ステップ、10万トークンのコンテキスト、数十の同時セッションにわたるエージェントを常駐させ、エージェントループ全体のスループットを維持します。 より多くのコンテキストでの推論 全コンテキスト推論 モデルと長いコンテキストの大部分を常駐させ、より少ないGPUと高帯域幅メモリ(HBM)なしで、より豊かな推論を実現します。 推論の経済性 効率的なトークンサービング 高密度、空冷式、標準PCIeインフラストラクチャにより、ラックあたりおよびワットあたりのトークンを最大化し、サービング容量をスケーリングしてコストを抑制します。 既存の電力とラックでより多くの推論を実行 エージェント型AIがより長いプロンプトとより多くの同時セッションを推進するにつれて、顧客は電力、コスト、または展開の複雑さでトレードオフなしにスケーラブルなインフラストラクチャを必要としています。Intel GPU D270は、データセンター環境での電力効率の高いメモリバウンド推論のために、最大480 GBのLPDDR5Xメモリを提供します。 AI向けに構築 エージェント型ワークロード向けに構築 グラフィックスおよびレイトレーシングパイプラインからXᵉ3Pコアおよび行列コンピューティングに再割り当てされたダイエリアにより、推論効率が向上します。 コンピューティング向けに構築 重要な場所でのコンピューティング ワットあたりのプロンプト処理が増加:32 Xᵉ3Pコアと256 XMXエンジンがプリフィルを加速し、長コンテキストおよびエージェント型コストを抑制します。 ワークロード向けに構築 あらゆるワークロードに対応する精度 ネイティブな低精度推論からFP64科学計算まで、ワークロードが精度を決定します。ハードウェアではありません。 効率向けに構築 標準PCIe 5.0 標準フォームファクタ、標準インターコネクト、既存のサーバーを使用。独自のネットワーキングやカスタムシステムは不要です。 信頼性の高い電力向けに構築 350W 空冷式 ラックに標準搭載されているパッシブ冷却。評価と展開の間に液体冷却の改造は不要です。 データセンター向けに構築 オープン設計 主要なオープンモデルに対するゼロデイサポート。既存のフレームワークで提供:vLLMおよびオープンPyTorchエコシステム。 最新AIのためのワークロード優先コンピューティング データセンターインフラストラクチャにおけるインテリジェントな進化を提供します。新しい時代のAI推論のために構築。 AIとデータセンターのイノベーションについてさらに詳しく知るにはサインアップしてください Intel GPU Dシリーズのニュースと最新のエンタープライズ向けAIリソースの最新情報を受け取ってください。サインアップありがとうございます!まもなく更新情報を受け取り始めます。 よくある質問 Intel GPU D270とは何ですか? Intel GPU D270は、エージェント型AI時代のために設計された、推論最適化データセンターGPUです。メモリリッチで電力効率の高いAIアクセラレーションを必要とするエンタープライズAI、SaaS、GPUaaS、および政府または主権クラウド展開をサポートするために構築されています。 Intel GPU D270はどのような種類のAIワークロードをサポートするように設計されていますか? Intel GPU D270は、エージェント型AI、長コンテキスト検索拡張生成(RAG)、エンタープライズAIアシスタント、コーディングアシスタント、ドキュメント理解、マルチモーダルAI、拡散モデル、および高同時実行サービングなどの本番AI推論ワークロード向けに設計されています。 Intel GPU D270がエージェント型AIに関連する理由は? エージェント型AIは、1つのタスクをモデル呼び出し、ツール使用、検索、推論、応答生成の複数のラウンドに変換することがよくあります。Intel GPU D270は、プリフィル処理、より大きなコンテキスト、メモリ容量、同時実行性、電力効率など、これらの環境で重要になる推論要件のために設計されています。 Intel GPU D270にとって「推論最適化」とはどういう意味ですか? 推論最適化とは、GPUが大規模なトレーニングではなく、本番環境でAIモデルを実行するために設計されていることを意味します。Intel GPU D270は、プロンプト処理、高同時実行サービング、メモリ容量、効率的な電力使用、およびシステムレベルのパフォーマンスを含む、展開されたAIアプリケーションのニーズに焦点を当てています。 Intel GPU D270は長コンテキストAIワークロードをどのように支援しますか? 長コンテキストAIワークロードは、より大きなプロンプト、検索重視のワークフロー、および推論中のKVキャッシュの増加をサポートするために、より多くのメモリを必要とする場合があります。Intel GPU D270は、より大きなモデル、より長いコンテキスト、およびより多くの同時セッションをサポートするために、高いメモリ容量を備えて設計されています。 どのソフトウェアフレームワークがIntel GPU D270に関連していますか? Intel GPU D270のメッセージングでは、承認されている場合、PyTorch、vLLM、SGLang、OpenAI Tritonなどの一般的なAIソフトウェアおよびサービングフレームワークを参照する必要があります。これにより、開発者およびプラットフォームチームは、製品が既存のAIワークフローにどのように適合するかを理解できます。 Intel GPU D270は既存のデータセンターインフラストラクチャで使用できますか? Intel GPU D270は、標準PCIe 5.0フォームファクタと空冷式展開プロファイルを中心に設計されており、企業が液体冷却の改造を専門化することなく、既存のデータセンター環境内でAI推論アクセラレーションを評価するのに役立ちます。 Intel GPU D270の主な対象者は誰ですか? 主な対象者には、AIシステムアーキテクト、AIプラットフォームアーキテクト、インフラストラクチャおよびクラウドエンジニアリングリーダー、エンタープライズAI意思決定者、SaaSプロバイダー、GPUaaSプロバイダー、政府または主権クラウドチーム、および本番推論ワークロードを展開する開発者が含まれます。 Intel GPU D270についてさらに詳しく知りたい場合は、顧客は何をすべきですか? 顧客はIntelに連絡して、Intel GPU D270についてさらに詳しく知り、AI推論ロードマップにどのように適合するかを評価し、追加の製品情報が利用可能になったら最新情報を受け取るべきです。 免責事項 パフォーマンス予測は、2026年2月時点の公開情報およびIntel内部分析に基づいています。パフォーマンスは、使用状況、構成、その他の要因によって異なります。メモリ容量は同等の帯域幅での比較です。