HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

OpenAIはどのように自社のLLMを使ってJalapeñoチップを設計したか

How OpenAI Used Its Own LLMs to Design Its Jalapeño Chip (spectrum.ieee.org)

45 pointsby maxall444 コメント

要約

OpenAIは、自社開発の大規模言語モデル(LLM)を活用して、AIアクセラレータチップ「Jalapeño」の設計期間を大幅に短縮しました。このプロセスでは、LLMがフロントエンド設計(高レベル合成)を加速し、コンセプトからシリコンまで20ヶ月未満、RTLからテープアウトまで9ヶ月という異例の速さを実現しました。将来的には、LLMのさらなる進化により、チップ設計のスピードはさらに向上すると期待されています。

全文翻訳

OpenAIは自社のLLMを使ってJalapeñoチップを設計した AIが設計時間を劇的に短縮、さらに速くなる見込み Matthew S. Smith 2026年9月14日 6分読み Matthew S. SmithはIEEE Spectrumの寄稿編集者であり、Digital Trendsの元リードレビュー編集者です。 OpenAIのJalapeñoは、コンピュートダイと6スタックのHBM4、およびI/Oチップレットをペアにしています。OpenAI 2025年8月25日、OpenAIは同社初のAIアクセラレータチップであるJalapeñoを正式に発表しました。Jalapeñoは、最大13.4ペタフロップスの4ビットコンピュート性能を提供し、利用可能な最先端メモリ232ギガバイトにアクセスし、毎秒15.4テラバイトという驚異的な速度で接続します。OpenAIが引用したベンチマークによると、JalapeñoはNvidiaのGB300(同社が現在依存しているチップ)と比較して、エンドツーエンドのレイテンシ(プロンプトから最後のトークンまでの時間)を最大3.6倍削減でき、しかも消費電力は少なくなります。 これらの数値が、JalapeñoがOpenAIの推論フリートで広くサービスインされた際に実際のパフォーマンス向上につながるかどうかはまだわかりませんが、パフォーマンスは物語の半分にすぎません。もう半分は、チップがどのように設計されたかということです。このプロセスは、予想通り、OpenAIの大規模言語モデル(LLM)によって加速されました。Jalapeñoは、最初のアーキテクチャコンセプトから最初のシリコンまで20ヶ月未満で移行しました。最初のRTL(チップのロジックを定義するレジスタ転送レベルコード)からテープアウト(製造に進む完成した設計)までの期間はわずか9ヶ月でした。これは急速なタイムラインですが、専門家はLLMの改善とチップ設計ツールへの統合の深化により、すぐに遅く見えるようになるだろうと考えています。OpenAIは、驚くべきことに、この機会に楽観的です。「モデルはエンジニアにスーパーパワーを与えています」と、OpenAIのハードウェア担当バイスプレジデントであるRichard Ho氏は述べています。「エンジニアは依然として作業を主導しています。彼らは依然として何が起こっているかの最終的な裁定者です。しかし、彼らは物事をはるかに速く行うことができます。彼らははるかに多くのパスを探索できます。」 OpenAIは少人数の設計チームで迅速な成果を達成 Ho氏によると、Jalapeñoを設計したグループの平均人数はプロジェクト期間中に100人未満であり、現在も第2世代および第3世代のデザインを追求しているチームは、約100人で維持されています。この数字には、システム設計からソフトウェア、サプライチェーンまで、ハードウェアチームの幅広い役割が含まれますが、プロジェクトでOpenAIと提携したBroadcomの担当者は含まれていません。 OpenAIとBroadcomの間の労働分担は、一般的に設計と実装の間で分割されました。OpenAIのチームは、推論アクセラレータ、メモリ階層、ネットワーキングを含むエンドツーエンドのシステム設計を担当しました。Ho氏によると、Broadcomは「ゲート以降の物理設計」を担当しました。 Broadcomとの提携は、OpenAIのスピードに対する一部の意見を鈍化させました。エージェンティブチップ設計スタートアップVerkor.ioの共同創設者であるDavid Chin氏は、「彼らが私たちに提示したスケジュールは非常に信頼できる」と述べていますが、Jalapeñoの迅速なタイムラインにはBroadcomの支援が不可欠だったと考えています。「もし誰かがゼロから始めるなら、それは不可能でしょう」と彼は言います。Verkorの共同創設者であるRavi Krishna氏も、OpenAIのスピードを「比較的印象的な結果」と呼びましたが、もしプロジェクトが今日始まったとしたら、LLMの能力の向上によってさらに迅速なタイムラインが実現されるだろうと予想しています。カリフォルニア大学サンディエゴ校の著名な教授であるAndrew Kahng氏も、OpenAIのスピードを注目に値するとし、「今日ではおそらくクラス最高」だと述べています。Kahng氏は、2016年のIEEE Design Automation Futuresワークショップを思い出しました。このワークショップでは、当時GoogleのエンジニアであったRichard Ho氏が基調講演を行いました。Ho氏は設計自動化について強い意見を持っており、チップ設計完了に必要な時間を、チームが1日に完了できるイテレーションの数に依存する関数としてフレーム化しました。 OpenAIのLLMはJalapeñoの設計をどのように加速したか メリーランド大学カレッジパーク校の半導体イニシアチブおよびイノベーションディレクターであるAnkur Srivastava氏は、「自動化自体はチップ設計において何十年も存在しており、新しい問題ではありません」と述べています。しかし、LLMが従来の自動化ツールと異なるのは、言語とコードを理解する能力です。彼は、これが「問題の言語領域にまだある」チップ設計タスクに特に適していると述べています。 OpenAIのチームは、この強みを活用するワークフローを設計しました。OpenAIのフロントエンドワークフローは、元々Googleで開発されたオープンソースの高レベル合成ツールチェーンであるAccelerated Hardware Synthesis(XLS)を中心に構築されました。高レベル合成は、エンジニアがより馴染みのあるプログラミング環境でチップを設計できるチップ設計自動化の一形態です。XLSの場合、チップ設計者はDSL(Rustにインスパイアされたドメイン固有言語)やC++のような言語で記述できます。XLSは、電子システムを記述するために使用されるハードウェア記述言語であるVerilogに変換します。 「私たちはAIを活用してプロジェクトをより速くする方法を考えていました。そして、AIはソフトウェアのようなものに対してはるかに優れていました」と、OpenAIの技術スタッフであるChris Leary氏は述べています。「XLSはある意味でソフトウェアのように見えるので、その恩恵を受けました。」Leary氏がGoogle在籍中にXLSを開始したため、XLSがどのように機能するかを非常に熟知していたことも役立ちました。 Kahng氏は、XLSのような高レベル合成を加速するためにAIを使用するという決定は理にかなっていると同意しています。なぜなら、それは「LLMがより自然に連携できる」ものであり、高速なイテレーションの機会を提供するからです。「私はこれを一般的に有用なワークフローと見なしており、将来性のあるものです」と彼は述べています。 同じ論理が、Jalapeñoチームがソフトウェア最適化に焦点を当てることを導きました。最初のチップが5月にファウンドリから戻ってきたとき、チームは内部AIモデルを使用して、SemiAnalysisのInferenceXのようなベンチマークを実行するためのソフトウェアを設計しました。DeepSeekのマルチヘッド潜在アテンションカーネルベンチマークでは、パフォーマンスは理論上の上限(チップのコンピュートとメモリ帯域幅によって設定される)の0.31%から約40時間で88.94%に向上しました。Ho氏によると、この結果は再現可能であり、ファウンドリが最初のチップを納入してから生産が開始されるまでの時間を短縮できるとのことです。「私たちのスケジュールのすべての仮定は、この機能が現在あるという事実に基づいています」と彼は述べています。Jalapeñoは、2,048個のチップを含むポッドに展開するように設計されています。 OpenAI JalapeñoチームのAI支援ワークフローの全体像は、Ho氏とLeary氏によって事前に推測されていましたが、OpenAIのモデルの改善はいくつかの驚きをもたらしました。Leary氏によると、プロジェクトはOpenAIのo3のようなモデルの支援から始まりました。これは2025年4月に公開されました(ただし、Jalapeñoチームにはそれ以前から利用可能でした)。しかし、プロジェクトが完了するまでに、チームはGPT-6 Astraの前身となるモデルにアクセスできるようになっていました。これは2026年9月3日に公開される予定でした。新しいモデルは、XLSが通常のプログラミング言語から変換する必要なしに、Verilogで直接作業でき、独自のプロプライエタリな設計ツールを単独で操作できるレベルに近づいているとLeary氏は述べています。 Ho氏はまた、チームが公開されていない、チップ設計用にファインチューニングされた内部LLMにアクセスしていたことを確認しました。使用されたモデルについては詳述を避けました。しかし、JalapeñoチームはOpenAIの研究チームと提携していたと付け加えました。Jalapeñoの設計に使用されたすべての特定のモデルが公開されているわけではありませんが、Ho氏は、プロジェクトから得られた教訓を同社の商用LLMに持ち込むことが目標だと述べています。「Astraおよびそれに続くモデルがチップ設計に非常に優れていることは安全に言えます」と彼は述べています。 AIはバックエンド最適化にはあまり役立ちませんでしたが、それは変わる可能性があります 前述のように、OpenAIのJalapeñoに関する作業の大部分は、チップの初期コンセプトから、設計を定義するRTLコードの記述、物理的に実装されたときに設計が機能することの検証までのタスクを網羅する、チップ設計の「フロントエンド」に焦点を当てていました。「バックエンド」設計の多くは、インターコネクトのルーティング、コ