HN 日本語サマリー

← 一覧へ戻る
プログラミング

Show HN: Relax - Rustのビルド時間を短縮するJITコンパイラ

Relax: JIT compiler for Rust to reduce build times (makepad.github.io)

170 pointsby adamnemecek92 コメント

要約

Relaxは、Rustのコードをビルドしながら実行できるライブコンパイラおよびJITランタイムです。これにより、従来のrustcとCargoのビルドプロセスと比較して、ビルド時間と実行時間を大幅に短縮します。ただし、最適化されたコードの実行速度は若干低下するなどのトレードオフも存在します。

全文翻訳

Relax: JITコンパイラでRustのビルド時間を短縮

これは、JavaScriptを使用しない読者のための、プレーンHTML形式の全ページテキストです。同じテキストはREADMEとプレーンHTMLページにもあります。

待つことのないRust。

rustcはプログラムをビルドしてから実行します。Relaxは、ビルド中にプログラムを実行します。

RelaxはRustで書かれたRust用のライブコンパイラおよびJITランタイムです。Cargoパッケージをソースから直接実行し、rustc、LLVM、リンカをループから外します。各関数は最初に呼び出されたときにコンパイルされ、実行中にホットな関数が最適化され、編集内容は実行中のプロセスにパッチされます。

Relax vs cargoとrustc

cargo + rustcRelax
大規模3Dゲーム、クリーンチェックアウト → 初フレーム約3分のビルド、その後開始11秒 (M4 MacBook、ソースから直接)
同じゲーム、2回目実行 → 初フレームビルド済みバイナリを開始1.15秒 (M4 MacBook、再コンパイルなし)
小規模アプリ → 初フレームまずビルド3.7秒 コールド、0.41秒 ウォーム (M4 MacBook)
実行中のプログラムの関数を1つ変更再ビルド、再リンク、再起動:状態は失われるパッチ適用:状態は維持される
ファイルを保存 → 92個のテストを再実行テストバイナリを再ビルド保存後 2.2秒
型チェックと借用チェックcargo check;ビルドがすべてを事前にチェックrelax check;実行前に各関数を型チェックし、バックグラウンドで借用チェック
最適化されたコードの速度1.00倍 (--release)遅い:x64で1.12倍、arm64で1.24倍 (21ワークロードの幾何平均)
必要条件rustc, LLVM, リンカ1つのRustライブラリ:43.8万行、crates.io依存関係なし

x86-64およびAArch64のコード生成。新規クローンからのリポジトリビルドとそのテストは、Linux x86-64およびmacOS arm64でパスします。Windowsはテストされていません。

トレードオフ

  • 最適化されたコードの遅さ。 全体として、Relaxが実行するコードはrustcの--releaseよりも遅いです。x64で1.12倍、arm64で1.24倍 (21ワークロードの幾何平均)、ネイティブCPUビルドに対しては1.22倍および1.25倍です。一部のワークロードでしか高速ではありません。LLVMがまだ優位な箇所を参照してください。
  • より多くのメモリ。 コンパイラ、そのキャッシュ、および公開されるすべてのコードバージョンはプログラムのプロセスを共有し、JITコードは追記専用です。relax inspect <pid> memoryは分割を表示し、codeは成長を表示します。パッケージのtarget/makepad-runにあるコードキャッシュは、helloに対して120〜190MBを消費します。
  • relax checkはまだcargo checkより高速ではありません。 大規模パッケージでは、コールドチェックはcargo checkよりも時間がかかり、メモリをより多く使用します。編集による再チェックも必要以上のことを行う可能性があります。現在取り組んでいます。
  • すべてのクレートがまだ実行できるわけではありません。 libs/relax/KNOWN_GAPS.mdに未解決のギャップがリストされており、それぞれに再現手順があります。
  • すべての編集がライブでパッチされるわけではありません。 関数本体はパッチされます。変更された構造体のレイアウト、インポート、トレイトまたはimplヘッダー、マクロは再起動を待ちます。Relaxは再起動を提供します:relax inspect <pid> session relaunch。
  • 借用チェッカーはプログラムと並行して実行されます。 実行は、実行前に各関数を型チェックし、バックグラウンドで借用チェックを行います。relax run --check-firstは代わりに借用チェッカーを待ちます。
  • リリースビルドではありません。 Relaxは編集-実行ループ用です。cargo build --releaseでビルドされたものを本番環境にデプロイしてください。

JITから得られるもの

relax runはrelax-remote: pid <pid>という行を出力します。以下のコマンドのうちrunとtest以外はすべてrelax inspect <pid> <command>であり、実行中のプログラムが回答する質問です。

何をするかコマンド
ホットパッチ、状態維持ファイルを保存:変更された関数は再チェック、再コンパイルされ、実行中のプログラムにスワップされます。コンパイルされないコードへの呼び出しは、編集で修正されるまで待機します。relax run <package>
保存時のテストテストをウォームに保ち、変更した関数に入ったテストを再実行します。relax test --live <package>
パニック時の停止パニックが発生すると、スタックをそのままにスレッドを停止します。ターミナルでは最大10分、アタッチされていない場合は2秒です。ローカル変数を読み取り、そのフレームでRustを評価し、アンワインドさせるか、再起動可能な関数をエントリから再実行します。panics, locals panic=P1, eval <expr>, resume P1 panic
ブレークポイント、デバッガなしヒットすると、スタックをそのままにスレッドを呼び出し元で停止します。break <file>:<line>, locals break=K1, continue
ハングの説明デッドロック、ブロック、ビジー、アイドル:原因、待機チェーン、それらに含まれるスレッドのスタック。why-hung
プロファイリングJITおよびネイティブフレームをサンプリング:スレッドごとのCPU、トップ関数とそのホットな行、各フレームのティアを持つコールツリー、フラットグラフ用の折りたたみスタック。prof s=3, prof view=tree, why-slow
フライトレコーダー常にオン、バウンドメモリ内:スレッド、待機、コンパイル、イベントの最後の数分間。パニック、フォルト、または1秒を超えるヒッチが発生すると自動保存されます。rec save
メモリとリークメモリの場所(種類別のRSS、使用中および解放済みのmalloc、Relax自身のシェア)と、割り当てスタックごとのプログラムのヒープ、スナップショット間のリーク候補。ヒープ追跡はLinux x86-64およびmacOS arm64でのみ実行されます。memory, heap start, heap snap a, heap diff a now

relax inspect <pid> helpで残りのコマンドを確認できます。例えば、asm <fn> vs=rustc (JITの機械語とrustcの比較)、count <fn> (正確な呼び出し回数)、counters (ハードウェアカウンター)などがあります。

試してみる

新規クローンから、relaxをビルドし、新しいパッケージをJITで実行します。

git clone https://github.com/makepad/relax
cargo build --release --manifest-path relax/Cargo.toml -p relax-runner --bin relax

cargo new hello
cd hello
../relax/target/release/relax run --quiet hello    # mainをJITで実行
../relax/target/release/relax test hello           # #[test]関数を実行
../relax/target/release/relax check hello          # 型チェックと借用チェックのみ

パッケージのフォルダでrelaxを実行し、パスではなくパッケージ名を指定します。relaxはチェックアウトされた場所からRelaxのstdを読み込むため、relaxフォルダはそのままにしておいてください。

新規クローンからの測定:relaxのビルドは16コアx86-64 Linuxボックスで53秒、10コアarm64 Macで78秒(cargoは4ジョブに制限)かかりました。最初のhelloのrelax runは0.24秒と0.97秒、その後の実行は0.01〜0.07秒でした。Relaxはコンパイルしたものをパッケージのtarget/makepad-runに保持するため(relax cleanで削除)、新しいパッケージは常にコールドスタートになります。

ネットワーク。 依存関係のないパッケージ(helloなど)は何も必要としません。crates.ioの依存関係については、Relaxはパッケージが~/.cargoのレジストリに存在する場合はそこから取得し、存在しない場合はcrates.ioからダウンロードします。これはインデックスのSHA-256と比較されます。MAKEPAD_RUN_OFFLINE=1またはcargoのCARGO_NET_OFFLINEを設定すると、ダウンロードは行われません。relax fetch <git-url> (tools/run/runner/src/fetch.rs)は、gitリポジトリを~/.makepad-runの下の1つのファイルとして保存します。


かかったもの:新しいRustツールチェーン

RelaxはrustcやLLVMのラッパーでもプラグインでもありません。それらを置き換え、間のCargoやリンカの一部を、1つのRustライブラリで置き換えます。

ジョブ通常のツールチェーンRelax
字句解析、構文解析、マクロ展開、macro_rules!およびプロシージャルrustcrelax-lex, relax-front
名前解決、トレイト解決、型推論、借用チェック、定数評価rustcrelax-types
最適化:インライン化、折りたたみ、ループ、範囲rustcのMIRパス + LLVMrelax-codegen (O1およびO3)
レジスタ割り当て、x86-64およびAArch64機械語生成LLVMrelax-backend
リンクとロードシステムリンカとローダーrelax-compiler、実行可能メモリに直接ロード
マニフェストの読み取りとクレートグラフの解決Cargorelax-base
core, alloc, stdのビルド事前ビルド済みRelaxによってソースからコンパイル (13.4万行)
cargo + rustcRelax
コンパイルクレート全体を事前にコンパイル。呼び出されたときに1関数ずつコンパイル。 ホットな関数はバックグラウンドで上位に移動:インタプリタ → O1 → O3。#[relax(O2)] / #[relax(O3)]は事前にレベルを要求します。rustc下では属性は何も行いません。
キャッシング無効になる可能性のある増分成果物。すべての結果を入力のハッシュでキーイング:ヒットは新規コンパイルが生成するものと同じなので、cargo cleanは不要です。
プロシージャルマクロネイティブdylibとしてビルドされ、ロードされます。リンクされたビルドと一致する場合はネイティブで実行、それ以外はJITで実行。
ネイティブコードすべてがネイティブです。ネイティブのままでなければならないクレート(OSレイヤー、GPU、オーディオ)は#[relax_api]を持つインターフェースをエクスポートし、JITコードはC ABI経由で呼び出します。

MakepadでのRelaxの使用方法

RelaxはMakepadプロジェクトから来ています。makepad runとそのツール群はMakepadのリポジトリにあり、このリポジトリにはありません。このセクションではMakepadがRelaxをどのように使用するかを説明します。

makepadはRelaxのランナーにMakepadホストを追加したものです。makepad run <package>で起動されたUIアプリは以下を受け取ります。

アプリが受け取るものコマンド
ネイティブビルドなしウィンドウがビルドの進捗とともに即座に開きます。アプリの最初のウィンドウがそれを引き継ぎます。makepad run <package>
保存してパッチ編集内容は実行中のアプリにパッチされ、状態とウィンドウは維持されます。デフォルトで有効
インプレース再起動パッチできない編集(型レイアウト、インポート、トレイトまたはimplヘッダー、マクロ)は、キャプションのJITリングに「Update ready」と表示されます。クリックすると、同じプロセスとウィンドウで、状態(AppMain::restart_state)とウィンドウフレームを維持したままアプリが再起動します。未保存の作業がそれを妨げる可能性があります(AppMain::can_restart)。session relaunch
ウィンドウでのエラーコンパイルエラーや借用チェッカーが拒否した編集は、ファイルと行番号とともにアプリの上に表示されます。クラッシュ後、ウィンドウは残り、ソースが変更されると再起動を提供します。session view open
パニックを修正してから再試行パニックが発生するとアプリが一時停止し、リングに「Paused on a panic」と表示されます。クリックするとメッセージと場所が表示されます。UIスレッドでコードを修正して保存し、retryで新しいコードでイベントを再実行します。panics, locals panic=P1, resume P1 retry
コードの表示各関数のコードバージョン、O3の注釈、rustcの隣の機械語、およびフライトレコーダー。versions <fn>, remarks <fn>, asm <fn> vs=rustc, rec save
UIの操作アプリのリモートコントロールはRelaxのインスペクトソケットを共有します(同じユーザー、ネットワーク上には何もなし)。ui find q=<text>, ui act node=<id> press, grab

makepad run以外のコマンドはmakepad inspect <app>に送信されます。Makepadのエージェントレーンの一日を通して、編集はマシンに到達してから中央値3.6秒でパッチされ、コールドJITまたはキャッシュでは90パーセンタイルで86秒でした。

AIエージェント向けに構築

AIエージェントは遅いビルドを感じることはできませんが、トークン、壁時計時間、失われたコンテキストのすべてにそのコストを支払います。Makepadは多数のAIエージェントが並行して作業するアプリをビルドし、その開発ハブであるdevhubは、各エージェントのアプリまたはテスト実行をウォームマシン上のRelaxで生き続けます。

エージェントのイテレーションcargo + rustc の場合Relax + devhub の場合
編集がプログラムに到達再ビルドと再リンク:大規模アプリでは数分0.1秒で出荷、3.6秒でパッチ (中央値)
テスト結果テストバイナリを再ビルドしてから実行保存後 2.2秒で92テスト完了
UIの表示再ビルド、再起動、ナビゲーションバックライブアプリの1フレームをPNGとして取得
新規ワーカーコールドビルドウォームスタート:各マシンは先端にウォームキャッシュを保持

実際には9つのエージェントレーンが並行して実行され、devhubは1時間に300以上のビルドおよびテストジョブを処理し、毎日数十の変更が着弾し、それぞれがマージ前にRelaxでチェックされます。

LLVMがまだ優位な箇所

Relaxの定常状態コードはLLVMよりも遅いです。Relax下での同じワークロードの時間とrustc下での時間の比率(低いほど良い、1.00倍 = rustc)。

ワークロードx64 vs ストックx64 vs ネイティブarm64 vs ストックarm64 vs ネイティブ
テキストシェーピングとグリフラスタライズ1.36倍1.38倍1.33倍1.31倍
符号距離フィールドグリフ生成1.31倍1.45倍1.26倍1.26倍
DEFLATEデコード1.20倍1.19倍1.26倍1.25倍
ZIPアーカイブ読み取り1.22倍1.26倍1.11倍1.10倍
PNGデコード1.21倍1.25倍1.32倍1.32倍
Brotliデコード1.29倍1.26倍1.27倍1.28倍
ベクターマップタイルデコード1.06倍1.06倍1.01倍0.99倍
ウィジェットツリーレイアウト1.54倍1.49倍1.75倍1.74倍
LLMデコードホストパス1.12倍0.91倍0.87倍1.05倍
Rustソース字句解析1.06倍1.06倍1.20倍1.21倍
Markdown解析1.39倍1.31倍1.54倍1.56倍
HTML解析1.06倍0.89倍1.04倍1.11倍
物理ピアノモデルオーディオ1.22倍1.25倍1.44倍1.44倍
Ogg Vorbisオーディオデコード1.20倍1.20倍1.24倍1.27倍
ゲームオーディオミキサー1.03倍1.16倍1.17倍1.18倍
スクリプトVM評価1.11倍1.09倍1.12倍1.13倍
固体ジオメトリ (CSG) ブーリアン1.20倍1.25倍1.11倍1.12倍
剛体物理0.43倍1.38倍1.30倍1.32倍
ゲームシミュレーションティック0.60倍1.26倍1.25倍1.25倍
レベルウォーク (ナビゲーショングリッドとウォーカーツアー)0.87倍0.87倍0.91倍0.91倍
3Dモデルビルド2.00倍2.04倍1.91倍1.92倍
幾何平均 (21)1.12倍1.22倍1.24倍1.25倍

全体として、Relaxで実行されるコードはrustcでビルドされたコードよりも遅いです。21ワークロードの幾何平均は、x64でストック--releaseの1.12倍、arm64で1.24倍、ネイティブCPUビルドの1.22倍および1.25倍です。Relaxが高速なのは一部のワークロードのみです。ストックに対しては、x64では剛体物理 (0.43倍)、ゲームシミュレーションティック (0.60倍)、レベルウォーク (0.87倍) で高速であり、arm64ではLLMデコードホストパス (0.87倍) とレベルウォーク (0.91倍) で高速です。2つの大きなx64の勝利はネイティブビルドに対しては消えます(剛体物理1.38倍、ゲームシミュレーションティック1.26倍):これら2つの勝利は汎用CPUベースラインに対するものです。最も遅いワークロードは3Dモデルビルドで、rustcの約2倍の時間を要します。

カーネルマイクロベンチマーク (30):x64でストックに対して1.14倍、ネイティブに対して1.24倍、arm64で約1.23倍の定常状態幾何平均。これらは、ウォームJITキャッシュで一部のホット関数がO3にティアアップしないバグが修正されるまで暫定的なものです。そのため、カーネルの数値は遅すぎる可能性があり、上限値となります。上記の21ワークロードテーブルには影響しません。

x64:8コアデスクトップCPU、Linux。arm64:Apple M4ラップトップ、macOS。rustc 1.99.1、LLVM 23.1.1。各数値は3回の実行の中央値で、2026-11-12に測定されました。ストックは汎用CPU向けのcargo build --releaseです。ネイティブは-C target-cpu=native付きの--releaseです。Relaxはデフォルトモードで、ティアアップ後の定常状態で測定されます。x64では、ストックとネイティブの列は同じマシンとバイナリで別々に実行された結果です。arm64では、汎用CPUはすでにMシリーズのベースラインであるため、2つの列はノイズのみで異なります。

どの--releaseか? ストック(cargo build --release、汎用CPU)とネイティブ(-C target-cpu=native)の両方が測定されます。Relaxは常に実行中のCPU用にコンパイルするため、ネイティブが同等比較の列です。

ギャップの原因、1つの3Dプリントスライサー実行の命令レベル比較から:ストールではなく追加の命令(1.26倍の命令コストが1.15倍のサイクルコスト)。

原因追加命令 (スライサー実行)
ブールレジスタとして保持され再計算される比較約25 G
レジスタコピー (2アドレス形式、コリジョンミス)約23 G
スタックトラフィック:ループ状態がスタックスロットに保持される;rustcの15レジスタに対し、アロケート可能なレジスタは12個
追加のループ制御とチェック分岐、ループ内に残された不変テスト約13 G
比較に折り込まれないロード、i128算術演算、再生成定数、小さいアイテム約33 G
生成コード外のランタイム (memcpy, アロケータラッパー, TLSアクセス, スタブ)約40 G
ループベクトル化なし、浅いアンローリング数値カーネルギャップの大部分

インライン化は原因ではありません:Relaxはrustcよりも多くインライン化します。各行は作業項目です。

Relaxは開発イテレーション用です。リリースビルドにはrustcを使用します。

アーキテクチャ

Relaxは、ソースバイトから実行可能メモリまで、単一プロセス内でパイプライン全体を所有します。これはレイヤーのスタックであり、それぞれが独自のクレートで、下のレイヤーのみに依存します。レイヤーは並列にコンパイルされ、上位レイヤーの変更が下位レイヤーを再ビルドすることはありません。

クレートパス役割rustcの世界では
relax-lexlibs/relax/lexRust (全エディション) の字句解析器とトークンモデル、およびプロシージャルマクロが見るもの。字句解析器とproc_macro
relax-baselibs/relax/baseハッシュ、メモリ会計とアリーナ、構文ツリー、cfg、マニフェスト、git読み取りパスとソースマウント。Cargoとrustcの共有インフラの一部
relax-sessionlibs/relax/sessionコンパイルの入力とその安定ハッシュ:すべてのキャッシュが構築されるキー。セッションと増分キー
relax-frontlibs/relax/front解析、クレートグラフ、名前解決、マクロ展開。パーサー、リゾルバ、マクロ展開
relax-typeslibs/relax/types型、impl、型チェック、レイアウト、定数評価、借用チェッカー。型チェッカー、借用チェッカー、定数評価
relax-codegenlibs/relax/codegenRIR (Relax IR) 上の中間エンド:O1およびO3オプティマイザーとスレッド化されたインタプリタ。MIR最適化とLLVMのオプティマイザー
relax-backendlibs/relax/backendレジスタ割り当て、x86-64およびAArch64機械語、C ABIプランナー、実行可能メモリ。LLVMのコードジェネレータとリンカ
relax-compilerlibs/relax/compilerJITランタイムとstd:遅延コンパイル、ティアリング、ライブ編集、キャッシュ、プロシージャルマクロホスト、テストランナー、relax inspect。Cargo、rustcドライバ、テストハーネス、OSローダー
relax-native-macroslibs/relax/native_macrosネイティブリンクされたプロシージャルマクロ、ソースとの照合。proc_macro dylibs
attributelibs/relax/attr#[relax(O2)] / #[relax(O3)]:最適化レベル属性。rustc下ではノージョブ。プロファイルごとのopt-level
relax_apilibs/relax_api#[relax_api]:ネイティブクレートがJITコードに提供するインターフェース、およびスレッドごとのヒープルーティング。(対応するものなし:すべてネイティブ)

関数のライフサイクル。 mainの前に、プログラム自身のクレートが型チェックされます。関数の最初の呼び出しでコンパイルされます(インタプリタまたはO1)。ホットな間は、バックグラウンドでO3に再コンパイルされ、スワップインされます。変更を保存すると、Relaxは変更されたものを再チェックし、再コンパイルして新しいコードを公開します。古いコードは有効なままで、次の呼び出しで新しい関数が実行されます。

設計原則。 決して古くならない:すべてのキャッシュされた結果は入力のハッシュでキーイングされます。コードは成長するだけ:公開された機械語は、スタック上に残っている間は解放または書き換えられないため、ネイティブホットリロードハックとは異なり、スワップは安全です。デフォルトで遅延:Relaxは、すべてではなく、呼び出されたものをコンパイルします。検査可能:すべてのフェーズが実行内容を報告するため、スタールは記録から説明できます。

リポジトリレイアウト

Cargo.toml                              ワークスペース
libs/relax/
  lex/ base/ session/ front/ types/     フロントエンドと型システム
  codegen/ backend/                     ミドルエンドと機械語
  compiler/                             ランタイム、std (compiler/std)、96個のエンドツーエンドテストパッケージ
  attr/ native_macros/                  #[relax(..)] とネイティブプロシージャルマクロ
  KNOWN_GAPS.md                         まだサポートされていないもの
libs/relax_api/                         #[relax_api] とスレッドごとのヒープルーティング
tools/run/runner/                       relax、コマンドラインランナー
libs/ platform/ tools/ widgets/         Relaxがリンクする小さなサポートクレート:トークンモデル、
                                        シリアライゼーション、リモートインスペクション、プロファイリング、
                                        およびソースと照合するネイティブプロシージャルマクロ

コンパイラはrelax_compilerライブラリです(cargo build --release -p relax-compiler)。relax (tools/run/runner) はそのコマンドラインランナーです。ビルドには安定したRustツールチェーンが必要で、crates.ioからのものは不要です。

ライセンス

MIT、LICENSEを参照してください。Relaxがコンパイルするstdソースは独自の通知を伴います。libs/relax/compiler/std/CREDITS.mdおよびその隣のライセンスファイルを参照してください。

A live compiler and JIT runtime for Rust, written in Rust

Rust without the wait.

rustc builds your program, then you run it. Relax runs your program while it builds it.

Relax runs a Cargo package straight from source, with no rustc, LLVM or linker in the loop. It compiles each function when it is first called, optimises the hot ones while the program runs, and patches your edits into the running process.

The scoreboard

Relax vs rustc

Relax

rustc + Cargo

The tradeoffs

What a JIT costs you.

The benefits

What a JIT gives you.

Saving is the build

running program

Frames since start

Patches

Restarts

Try it

Build it, run a package.

What it took

A new Rust toolchain, from source bytes to machine code.

The job · in the usual toolchain · in Relax

How Makepad uses Relax

Relax inside makepad run.

Built for AI agents

The loop that stays hot.

Makepad

In practice

Speed

Relax vs rustc, on real workloads.

Show the numbers

Honest numbers

Where LLVM still wins.

Tiering and live patching

A function's life.