HN 日本語サマリー

← 一覧へ戻る
プログラミング

カスタムビジュアライゼーションレンダラーをSVGからCanvasに書き換えました

We rewrote our custom visualisation renderers from SVG to be in Canvas (polarsignals.com)

9 pointsby yomieluwande0 コメント

要約

Polarsignalsは、プロファイリングダッシュボードの刷新において、SVGベースのレンダラーをCanvasベースのものに書き換えた経験を共有しています。これにより、数万のDOMノードを管理するオーバーヘッドがなくなり、ピクセル描画に移行したことで、ズーム、リセット、スクロールといった操作が瞬時に感じられるほど高速化しました。データは列指向のArrow形式で提供され、ゼロコピーで効率的にCanvasに描画されます。

全文翻訳

新しく、より高速なプロファイラーダッシュボード

私たちはプロファイリングダッシュボードの刷新に懸命に取り組んでおり、その過程で観察された学習成果と改善点を、数値に裏付けられた形で共有したいと思います。

フレイムグラフを高速化することについて書くのは今回が初めてではありません。昨年、私たちはSVGレンダリングを並列化し、大規模クエリの初期レンダリング時間を約8秒から約91ミリ秒に短縮しました。

しかし、SVGには限界があり、その限界はDOMノードによって構成されています。フレイムグラフの各フレームは<rect>と<text>です。したがって、大規模なプロファイルは数万のフレーム、つまり数万のDOMノードから成り立ち、ブラウザは各ノードのスタイル設定、レイアウト、ペイント、そして後でガベージコレクションできるようにツリーに保持する必要があります。タブがフリーズするのを防ぐため、古いレンダラーは1フレームあたり約500ノードのバッチで描画していました。これは機能しましたが、DOMのバッチ処理は症状を治療しているに過ぎません。根本的な問題は、ブラウザに膨大な構造を管理させていたことでした。

正直に言うと、その投稿の最後でほぼ言及しましたが、フレイムグラフにDOMを使用するのをやめることが次の大きな進歩になると予想していました。しかし、Canvasが実際にどれだけの効果をもたらすかは不確かでした。この記事は、その未解決の疑問に私たち自身が答えるものです。

tl;dr 新しいプロファイラーダッシュボードが高速な理由

古いレンダラーはSVGで描画されており、数万のフレームそれぞれに1つのDOM要素と小さなJavaScriptオブジェクトを使用していました。これらをブラウザがスタイル設定、レイアウト、ペイント、ガベージコレクションする必要がありました。

新しいレンダラーは同じデータをCanvas上に描画します。列から直接数値を読み取り、ピクセルをペイントするだけで、フレームごとの要素やオブジェクトは一切ありません。これにより、ズーム、リセット、スクロールが瞬時に感じられるようになります。なぜなら、これらの操作はもはやDOMに触れないからです。

フレイムグラフはフレームで構成される

フレイムグラフのレンダリングに関して、SVGとCanvasのHTML要素の違いを見ていきましょう。

SVGとDOMはブラウザのレティンドモードAPIですが、CanvasはイミディエイトモードAPIです。これはどういう意味でしょうか?

レティンドモードでは、ブラウザは要素のツリーを受け取り、それを所有します。ブラウザはレイアウト変更と各要素のペイントを担当します。ツリー内に存在するため、変更が発生すると、ツリー内の他の要素であってもスタイルの再計算やレイアウトが必要になります。つまり、ブラウザは描画したもののモデルを保持し、それを再レンダリングしてくれます。

これは静的なドキュメントには適していますが、本質的に数千の色のついたフレームとテキストで構成される複雑なコンポーネント(フレイムグラフのような)にとっては、多くの管理作業が必要になります。

(Reactを書いているなら、これはあなたがすでに生きている世界です。UIを再記述すると、ReactがDOMツリーをそれに同期させてくれます。これは、親切な顔をしたレティンドモードです。)

イミディエイトモードAPIにはツリーがありません。代わりに、描画コンテキストがあり、fillRectやfillTextのような描画コマンドを発行できます。ブラウザはそれらをピクセルに変換し、忘れてしまいます。スタイル設定するノードやレイアウトするボックスがないため、ガベージコレクタに残るものはなく、ブラウザのバックグラウンドタスクである未使用メモリの回収が不要になります。

特に私たちにとって、Canvasでのフレイムグラフレンダリングのコストは、ブラウザが記憶しなければならないフレーム数に比例するのではなく、実際に描画するフレーム数に比例するようになります。

フレイムグラフはSQLクエリになった

Rustでクエリエンジンとデータベースを書き直した際、フレイムグラフはSQLで呼び出せる合成可能な関数の出力になりました。クエリエンジンはサンプルをウォークし、ツリーを構築し、各フレームの位置と幅を計算し、レンダリング準備完了の列指向Arrowとしてストリーミングします。

列指向Arrowに慣れていない場合、データはテーブルとして送信されます。各オブジェクトがフレームのx、width、depthを一緒に持つのではなく、各フィールドは独自の配列に保持されます。すべてのx座標が1つの配列に、すべての幅が別の配列に、すべての深さが別の配列に格納されます。

フレイムグラフのレンダリングは、同じ小さなジョブを何千回も繰り返すことになります。各フレームの左端、幅、行を取得し、それを描画し、次へ進みます。すべての左端はすでに単一の配列にまとまっているため、それらを読み取ることは、各フレームのオブジェクトを開いて必要な数値を1つ引き出すのではなく、リストをまっすぐ下にたどるだけです。

列指向Arrowレコードは、Arrow独自のネットワークトランスポートであるArrow FlightのIPC形式で送られてきます。これの素晴らしい点は、Arrowのワイヤ上でのレイアウトがメモリ上でのレイアウトと同一であることです。データが到着すると、tableFromIPC関数は、解析したり新しいものにコピーしたりすることなく、すぐに使用可能なテーブルを提供してくれます。

これはゼロコピーであり、ワイヤを介してデータを取得しレンダリングする際に常に最善を尽くしてきた戦略です。これにより、フレイムグラフツリーが構築され、レイアウトが完了してからデータが返されるため、高速なCanvas描画の準備が整いました。

Canvasでの描画

位置計算が事前に行われているため、描画ループは非常に単純です。ペイントする必要のある各フレームについて、Arrowの列から直接フィールドを読み取り、Canvas座標にマッピングします。

ここでゼロコピーがその価値を発揮します。単に列を読み取るだけで、そのフレームに関する必要なすべての情報が得られます。JavaScriptオブジェクトやSVG要素をフレームごとに構築する追加時間を費やす必要がなく、それらをブラウザやガベージコレクタが追跡・回収する必要もありません。

以前のフレイムグラフ実装にあったビューポートカリング戦略も維持しました。つまり、画面に表示されているものだけを描画します。ここでの違いは、カリング戦略がDOMノードをマウントする数ではなく、fillRect呼び出しの数を決定することです。プロファイルに50,000フレームがあり、そのうち800フレームだけが表示領域内にある場合、50,000ではなく約800回の描画呼び出しを発行します。

スクロールとズームはどうなったか

フレイムグラフを高速に描画することは、仕事の半分に過ぎません。以前は最も問題だったインタラクションは、最初のペイントの後に行われるものでした。深いスタックのスクロール、ホットパスへのズーム、リセットなどです。これらは現在、2つの理由で安価になりました。どちらもCanvasがこの作業に適していることに起因します。

第一に、グラフ全体を一度に描画することはありません。フレイムグラフは画面よりもはるかに高くなることがあり、Canvasは無限に高くすることはできないため、表示ウィンドウよりも少し大きいサイズに設定します。スクロールする際、ほとんどの場合、再描画は行いません。すでにペイントされたピクセルを、通常のウェブページがスクロールするのと同じようにスライドさせ、マージンを越えたときにのみ新しいスライスを再ペイントします。

第二に、ズームは何も再構築しません。各フレームの位置と幅は、クエリ時に一度計算されているため、ズームは単にそれらの固定された数値のより狭い範囲をCanvas上に再投影するだけで、リセットは完全な範囲を再度投影します。再度ウォークするツリーも、再度測定するものもありません。

次に進む前に、Canvasレンダラーがライブで動作している様子をご覧ください。

測定したもの

社内では、「新しいプロファイラーは速くなった」というフィードバックが常に寄せられていました。これは受け取るのに最高のフィードバックですが、ブログ記事にするには最悪のフィードバックです。何が速くなったのか、クエリかレンダリングかのどちらで成果が出たのか、あるいは単にフレイムグラフが小さくなっただけなのかが分かりません。そのため、3つの方法で測定しました。ユーザーが実際に感じるものを測定するためのブラウザ自動化、レンダラーを分離するためのフィクスチャリプレイ、そしてブラウザがどこに時間を費やしているかを確認するためのChrome DevToolsトレースです。

最も信頼できる数値はフィクスチャリプレイから得られました。1つのプロファイル(2日間のオンCPUクエリ、深く大規模なもの)の正確なArrowレスポンスを保存し、古いSVGレンダラーと新しいCanvasレンダラーを同じバイトに対してマウントし、サーバーやネットワークなしでレンダリングのみを時間計測しました。2つのレンダラーはわずかに異なるツリーを構築します(17,889フレーム対16,515フレーム。スタックのグループ化方法が少し異なるため)。そのため、サンプル総数をペア間で同一に保ち、フレームあたりのコストと合計コストを比較しました。ブラウザの実行も同様の結果をノイズ多めに示し、トレースはその理由を示しました。古いパスはスタイル、レイアウト、ペイントの作業に時間を費やしていましたが、Canvasレンダラーはそれらをまったく行いません。

数字を見せてください

独立したレンダリング

約17,000フレームの同じプロファイルで、フィクスチャリプレイで分離した場合、SVGレンダラーはフレイムグラフを描画するのに中央値で164ミリ秒かかります。Canvasレンダラーは46ミリ秒かかります。これは約3.6倍高速で、フレームあたりの時間は9.2マイクロ秒(µs)から2.8µsへと約3.3倍短縮されます。

フレームあたりの数値は、単にレンダリング時間をフレーム数で割ったもので、サイズが8%異なる2つのツリーを比較する方法です。

実際のページで

ライブブラウザ実行では、クエリ、ネットワーク、およびアプリの他の部分がすべて混在する実際の製品で何が起こるのか、そして古いプロファイラーページと新しいプロファイラーページの違いを尋ねる価値がありました。

そのため、実際のブラウザで、ライブの古いページと新しいページで同じ前後比較を実行し、フレイムグラフで実際に行う操作を時間計測しました。

ホットパスへのズームは、約121ミリ秒から29ミリ秒へと、約4倍速くなりました。スクロール再描画は、約30ミリ秒から6ミリ秒へと、4〜5倍速くなりました。そして、古いページで最も問題だったズームのリセットは、約528ミリ秒から47ミリ秒へと短縮されました。

レンダリングと初回レンダリングの数値に関する注意点:フィクスチャリプレイで分離した場合、約3.6倍でしたが、14倍ではありませんでした。

違いはレンダラーがテスト間で改善されたことではありません。それは、ライブページ上の古いレンダラーが他のすべてと単一のメインスレッドを競合しているため、そのレンダリング時間が膨張し、実行ごとに約450ミリ秒から1秒以上に変動することです。3.6倍は公正で再現可能な数値です。ライブの数値は、ビジーなページでユーザーが感じるものであり、安定したベンチマークではありません。

インタラクションはどうなったか?

フレイムグラフはインタラクションも豊富なので、それらも測定しました。CPUを15倍スロットルした(M4 MacでのDevToolsスロットリング)両方のレンダラーで同じスクリプト化されたホバースイープを実行し、ページが生成したフレームを測定しました。

Canvasレンダラーのホバーツールチップは、重度にスロットルされた環境でも決して途切れることはありません。118.5 fpsを維持し、ドロップフレームは1つ、p95は9ミリ秒でした。

ビデオは、これらの15倍スロットルされた実行のサイドバイサイドの1つを示しています。Chrome自身のFPSメーターが各ペインの左上に表示されています。

トレードオフ

Canvasが高速なのは、ブラウザがあなたのために行うことが少なくなるからです。これは、DOMが無料で提供していたすべてが、今やあなたの問題になることを意味します。これは昨年、私たちが本当に不確かだった部分なので、少し触れてみましょう。

ヒットテスト。要素がないため、クリックやホバーを受け取るものはありません。したがって、ポインターがフレイムグラフ上で移動すると、描画したときと同じ数学を逆転させます。行はマウスのy座標を行の高さで割ることで求められ、その行のフレームを左から右へ素早くスキャンすることでカーソルの下にあるフレームを見つけます。基本的に、フレームの矩形を描画するために使用されるのと同じ関数が、カーソルの下にあるものを決定するためにヒットテストで使用されます。したがって、見えるものとクリックできるものは同じです。

ホバーとツールチップ。:hoverがないため、ホバーされたフレームを独自に追跡し、Canvasの上にツールチップを描画します。Reactは引き続きツールチップの内容を所有します。Canvasは、どのフレームとどこにあるかを伝えるだけです。

テキスト。text-overflow: ellipsisはありません。すべてのラベルを測定し、描画前に切り詰めるため、長いシンボルがフレームからはみ出しません。

高DPIスクリーン。Canvasはビットマップなので、デバイスピクセル比率でバックストアをスケーリングし、そのスケールで描画します。そうしないと、Retinaディスプレイでグラフ全体がぼやけて表示されます。

アクセシビリティとテキスト選択。これは、私たちが受け入れなければならなかった損失です。Canvasはスクリーンリーダーからは不透明であり、SVGのようにテキストを選択することはできません。これに対する完全な解決策はまだありませんが、引き続き探求していきます。

結論

以前は重く感じていたプロファイルがある場合は、Polar Signalsダッシュボードで再度開き、どのように感じられるか教えていただけると幸いです。

ハッピープロファイリング!