HN 日本語サマリー

← 一覧へ戻る
プログラミング

WasmtimeにおけるGCと例外

GC and Exceptions in Wasmtime (bytecodealliance.org)

144 pointsby phickey31 コメント

要約

Wasmtime 47リリースにより、WebAssembly (Wasm) のガベージコレクション (GC) と例外処理の提案がデフォルトで有効になりました。これにより、高水準言語がWasmをより効率的にターゲットできるようになり、WasmtimeのGC実装とその利点、今後の開発についても詳述されています。

全文翻訳

WasmtimeにおけるGCと例外処理

本日リリースされたWasmtime 47では、Wasm GC(ガベージコレクション)と例外処理の提案がデフォルトで有効になりました!これにより、より多くの言語をWebAssemblyおよびWasmtimeが動作するあらゆる場所で利用できるようになることを嬉しく思います。この段階に至るまでには、Wasmtimeの大きな変更が必要であり、長年にわたるエンジニアリングの成果の集大成と言えます。

Wasmtimeは、高速で安全、そしてポータブルなWebAssemblyランタイムです。スタンドアロンで軽量、かつ組み込みも容易です。Wasmtimeのメンテナーは、オープンスタンダードにコミットしており、Wasmの標準化に積極的に参加しています。

Wasm GC

当初、WebAssemblyの初期バージョンでは、生のポインタとメモリのデータモデルとは対照的に、オブジェクトと参照のデータモデルを持つ高水準言語は、独自のガベージコレクタを.wasmバイナリに組み込む必要がありました。これにより.wasmバイナリが肥大化し、スタックマップの使用やスタックウォークによるGCルートの特定など、ネイティブコードでコレクタを実装する際によく使われる多くのテクニックが利用できなくなっていました。残念ながら、多くの言語がこのカテゴリに該当していました。

Wasm GC提案は、これらの高水準言語に対して効率的なサポートをWebAssemblyに追加することで、この状況を改善します。[1] Wasmプログラムが独自のstructやarray型、およびサブタイピング関係を定義できるよう、WebAssembly言語を拡張します。Wasmプログラムは、これらの型のインスタンスのライフタイムを管理したり、手動で解放したりする必要はありません。すべてランタイムが処理します。そのため、独自のガベージコレクタを組み込む必要がなくなり、これらのツールチェーンは代わりにWebAssemblyランタイムのコレクタを利用できるようになります。これにより、より多くの言語がWebAssemblyを容易かつ効率的にターゲットにできるようになります。

例として、Wasmプログラムがバイナリツリーのノード型を定義する方法は以下のようになります。

(rec
  (type $node (struct
    (field $key (mut f64))
    (field $left (mut (ref null $node)))
    (field $right (mut (ref null $node)))
    (field $value (mut (ref null $payload)))
  ))
)

新しいインスタンスはstruct.new $nodeで作成され、フィールドへのアクセスは、例えばstruct.get $node $keyやstruct.set $node $left命令で行われます。

Wasm例外処理

Wasmの例外処理提案は、オブジェクトと参照を持つ言語に対するWasm GC提案と同様の目標を、例外処理を持つ言語に対して持っています。それは、WebAssembly上での例外処理の効率的なサポートを可能にし、例外を持つ言語のコンパイルターゲットとしてWebAssemblyをより良くすることを目指しています。[2] この提案がない場合、ツールチェーンは、関数の結果だけでなく、関数が正常に返ったか例外をスローしたかを示す情報も返すカスタム呼び出し規約を実装する必要がありました。すべての呼び出しサイトはこの条件をテストし、適切に分岐する必要があり、.wasmバイナリの肥大化と、通常の正常終了パスにおけるランタイムオーバーヘッドの両方をもたらしていました。しかし、例外処理提案により、それらはすべてなくなり、throwやtry/catchスタイルの構文に置き換えられます。これにより、WebAssemblyランタイムは、通常の正常終了パスにゼロオーバーヘッドを課す従来のアンワインドアプローチでこれらを実装することができ、実行速度の向上と.wasmバイナリの縮小につながります。

WasmtimeのGC実装

Wasmtimeは、シンプルなチェイニー方式のセミスペースコピーコレクタを採用しています。GCヒープは2つの半分に分割されます。「アクティブ」なセミスペース(新しいオブジェクトが割り当てられる場所)と「アイドル」なセミスペースです。コレクション中、ライブオブジェクトはアイドルスペース(以前のアクティブスペースだった場所)から新しいアクティブスペースにコピーされ、すべてのGCルート(例: Wasmスタックフレーム内のアクティブな参照)は新しい場所を指すように更新されます。割り当てはアクティブなセミスペース内の単純なバンプポインタで行われ、コレクタは読み取りまたは書き込みバリアを必要としません。

GCヒープの実装とサンドボックス化のために、内部的にはWebAssemblyのリニアメモリを再利用しています。GCオブジェクトへの参照はネイティブポインタではなく、GCヒープの基盤となるリニアメモリへの32ビットインデックスです。WebAssemblyは高速、安全、ポータブルであることを約束しますが、その責任を実際に担うのはランタイムの実装です。GCヒープにリニアメモリを再利用することは、これら3つの側面すべてにメリットがあります。おそらく最も明白なのは、防御的な安全性の向上です。コレクタのバグでGCヒープが破損した場合でも、悪意のあるWasmプログラムはサンドボックスを脱出してホストメモリにアクセスすることはできません。高速性に関しては、リニアメモリと同様に仮想メモリガードページを使用して明示的な境界チェックを省略できます。プーリングインスタンスアロケータとの緊密な統合により、5マイクロ秒のインスタンス化時間を維持できます。また、64ビットマシンでは、32ビットGC参照は64ビットポインタよりもコンパクトであり、CPUキャッシュをより効率的に利用できます。最後に、多くのプラットフォーム(ベアメタルを含む!)で、それぞれ微妙に異なる機能を持つものに対して、大きなメモリ領域の割り当て、解放、リセットを迅速に行うことは、多くの特殊処理を伴います。リニアメモリの既存の実装は、これらのプラットフォーム間で既にポータブルであり、既にこれらの特殊処理を行っているため、リニアメモリの上にGCヒープを構築することで、ポータブルなGCヒープを「無料で」入手できます。

コレクタの信頼性をさらに高めるために、ファジングインフラストラクチャを拡張してWasm GCを徹底的にテストしました。まず、wasm-smithをGC提案に対応するように拡張しました。理論上は、十分な時間があれば、GCを使用するほぼすべてのWasmプログラムを生成できます。[3] しかし、それには非常に長い時間がかかる可能性があるため、2つの追加ファザーを補完しました。

  1. 興味深く任意のオブジェクトグラフ、型参照、サブタイピング関係を実行するように設計されたもの。
  2. コレクタのバグやコンパイラの誤最適化によるヒープ破損を検出するように設計されたもの。

最後に、パフォーマンスに関する期待値を設定するための簡単な注記です。これまでのところ、エンジニアリングの労力の大部分はコレクタの正確性に集中しており、パフォーマンスについてはそれほどではありませんでした。これは新品であり、例えばV8やSpiderMonkeyのコレクタのように、数十年にわたるパフォーマンスエンジニアリングの恩恵を受けていません。現在のところ、コレクタのスループットとレイテンシはそれらに及びません。さらに、コレクタとそのトレードオフは、Wasmtimeが本番環境で最も使用されるユースケース、つまり、多くの小さな使い捨てWasmインスタンスを作成し、それぞれが少数のタスクを処理した後にインスタンスとそのGCヒープが破棄される、というシナリオを主に想定して設計されています。このシステムは、単一インスタンスのパフォーマンスを最優先するのではなく、多くのインスタンスに水平にスケールするように設計されています。このシナリオは、例えば無期限の寿命を持つ単一の長期間実行されるサーバープロセスとは異なります。それ向けのコレクタのチューニングも異なるでしょう。

今後の展望

パフォーマンス作業は常にたくさん残っています。例えば、現在、コンパイラのエイリアス解析最適化(ストア・トゥ・ロード転送や冗長ロード除去など)をGC型情報で拡張するプロセスを進めています。2つの型が決してエイリアスしない(つまり、同じメモリ位置を占有しない)ことがわかっている場合、これらの最適化をより積極的に行うことができます。

機能面での次の大きなマイルストーンは、レイジー値低下の上にコンポーネントモデルとのGC統合をプロトタイプすることです。この取り組みにより、ガベージコレクションされた言語は、コンポーネント間でデータを渡すためだけに不要なリニアメモリを必要としなくなるため、コンポーネントエコシステムでファーストクラス市民として扱われるようになります。

結論

このマイルストーンに到達できたことを嬉しく思います!Wasmtimeの新たに有効化されたGCと例外処理サポートを試してみてください、そしてどのように機能するかお知らせください。

  1. GC提案はメインのWebAssembly仕様にマージされたため、提案ページは特定の時点のスナップショットとしてアーカイブされています。↩
  2. GC提案と同様に、例外処理提案もメインのWebAssembly仕様にマージされ、提案リポジトリはアーカイブされた歴史的なスナップショットになりました。↩
  3. 執筆時点でのWasm GCに関するwasm-smithの唯一の盲点は、非ヌル可能な参照を生成しないことです。↩