HN 日本語サマリー

← 一覧へ戻る
Web開発

GPUなしでWebGLを実行する

WebGL Without a GPU (microlink.io)

6 pointsby Kikobeats2 コメント

要約

Microlinkは、サーバーにGPUがない状態でWebGLコンテンツのスクリーンショットを高速化するための解決策を共有しています。以前はChromeのデフォルトのソフトウェアレンダラーであるSwiftShaderを使用しており、3Dページのキャプチャに約24秒かかっていましたが、ANGLEをMesa llvmpipeに切り替えることで約6秒に短縮されました。これは、仮想ディスプレイのセットアップとMesaのソースからのビルドを含め、特定のChromeフラグを使用することで実現されました。

全文翻訳

GPUなしのWebGLでGPUレスのWebGLスクリーンショットが4倍高速になった方法

以前はMicrolinkで3Dページをスクリーンショットするのに約24秒かかっていましたが、それが約6秒になりました。この変更は、GPUを全く搭載しないサーバーでWebGLレンダリングをSwiftShaderからMesa llvmpipeに移行させる、単一のChromeフラグ --use-angle=gl によるものです。

GPUレスノードでMesa llvmpipe経由でレンダリングされたWebGLページ(three.js)をアニメーションスクリーンショットとしてキャプチャしたもの

要約

  • 私たちのサーバーにはGPUがありません。それでもWebGLはどこかでレンダリングする必要があります。
  • Chromeのデフォルトのソフトウェアパス(SwiftShader)では、3Dページあたり約24秒かかっていました。
  • ANGLEをMesa llvmpipe (--use-angle=gl) に向けることで、約6秒に短縮されました。
  • この1行のフラグは簡単な部分です。ディスプレイ、ソースからのMesaビルド、そしてそれが高速パスに留まることを証明するプロセスが、残りの物語です。

WebGLは、3Dマップ、座席表、製品コンフィギュレーター、シェーダーアートのランディングページなどの背後にあり、私たちがキャプチャする上で最も遅いものでした。フラグは簡単な部分です。この記事の残りの部分では、それが要求するXディスプレイ、ソースからコンパイルするMesa、そしてすべてのノードが高速パスに留まることを証明するCIチェックについて説明します。

私たちのフリートは意図的にGPUを搭載していません

私たちのブラウザフリートは、グラフィックカードや/dev/driを持たない汎用的なLinuxノードで動作しており、これによりコストが抑えられ、シンプルで、ドライバの管理が不要になります。WebGLは依然としてGPU APIであるため、CPU上でエミュレートする必要があります。どのエミュレーターを選択するかが、24秒のスクリーンショットと6秒のスクリーンショットの違いを生みました。

ANGLEがレンダラーを選択します、Chromeではありません

ChromeはWebGLをANGLEに渡します。ANGLEはそれをプラットフォームが持つバックエンド(Direct3D、Metal、ネイティブOpenGLまたはVulkan、あるいはGPUがない場合はソフトウェアレンダラー)に変換します。

GPUレスノードでは、そのソフトウェアレンダラーがすべてを決定します。Chromeは2つのソフトウェアレンダラーを使用できます:バンドルされているデフォルトのSwiftShader、または私たちのLinuxノードでのシステムOpenGLスタックであるMesa llvmpipeです。どちらもCPU上で同じピクセルを描画しますが、速度は大きく異なります。

SwiftShaderはパイプライン全体を保守的にエミュレートし、どこでも正しく描画できるように最適化されています。重い3Dシーンはこれで約24秒かかりますが、隣接する2Dページは2〜3秒で完了します。llvmpipeは異なる方法で構築されており、ここに4倍の差があります:

  • ネイティブコードにJITコンパイルします。 LLVMはライブシェーダーとGL状態を実際のx86-64にコンパイルし、インタープリターループはありません。
  • タイル処理され、マルチスレッド化されています。 ノードのすべてのコアに作業を分散させます。

差は1行です

- '--use-angle=swiftshader',
+ '--use-angle=gl',

2つの一般的なフラグがこれをサイレントに無効にするため、起動引数から除外する必要があります:

  • --disable-gpu はSwiftShaderを再度強制します。これは、ヘッドレスチュートリアルのほとんどでコピーされるフラグです。
  • --in-process-gpu はANGLEが必要とするGLサーフェスを無効にします。

Xディスプレイがないと、WebGLはフラットな2Dにフォールバックします

--use-angle=gl はGLサーフェスをバインドする必要があります。これは、Chromeがヘッドレスで実行されている場合でもXディスプレイが必要です。それがなければ、WebGLはサイレントにフラットな2Dフォールバックに低下します。スクリーンショットは成功し、リクエストは200を返しますが、出力は間違っていますが、もっともらしいものです。

そのため、各コンテナはChromeが起動する前に仮想ディスプレイ(Xvfb)を起動し、LIBGL_ALWAYS_SOFTWARE=1でMesaをllvmpipeに固定します。

Mesaをソースからビルドしています

Ubuntu Jammyが提供するMesaは古すぎるため、以前は新しいバージョンをバックポートしていたPPAがなくなりました。ベースイメージは独自のMesaをコンパイルします:

meson setup build \
  -Dbuildtype=release -Dgallium-drivers=llvmpipe -Dvulkan-drivers= \
  -Dllvm=enabled -Dshared-llvm=enabled

ビルドはllvmpipeのみを有効にし、Vulkanをスキップし、共有LLVMにリンクします。これがJIT速度の源です。ツールチェーンは巨大(LLVM、clang、Rust、約160の-devパッケージ)であるため、Dockerfileはマルチステージです。Mesaをコンパイルし、クリーンなイメージにアーティファクトのみをCOPYします。結果は4.5GBではなく2.65GBです。

browserless.report()はライブGLコンテキストを読み取ります

パッケージを見ても、ノードがどのレンダラーを使用しているかはわかりません。apt listは間違ったバージョンを報告します。なぜなら、パッケージの上にMesaをサイドロードしているからです。実際の答えはページ内にあります。browserless.report()はライブGLコンテキストに直接問い合わせます:

const browserless = require('browserless')
const report = await browserless.report()
console.log(report)

本番ノードからのbrowserless.report()。完全な画像を表示するには、gpuとcpuを展開してください。

gpuブロックには、重要な3つのフィールドが含まれています:

  • type はここではsoftware / llvmpipeです。swiftshaderはフォールバックしたことを意味し、hardwareはGPUが出現したことを意味します。
  • mesa は、dpkgからではなく、ロードされたlibgallium-<ver>.soから読み取られます。dpkgはサイドロードの下にある古いパッケージバージョンを報告します。
  • simdWidth: 256 は、llvmpipeがAVX2を使用していることを意味し、これが速度の大部分を説明しています。

report({ benchmark: true })は、ノードを互いに比較するための決定論的なシェーダーベンチマーク(llvmpipeで約300ms)を追加します。

同じレポートがCIゲートです。フラットな2Dフォールバックは成功のように見えるため危険です。そのため、CIはgpu.typeがsoftwareであり、gpu.deviceがllvmpipeであることをアサートします。ドリフトがあれば、ビルドは失敗し、フラットな3Dが出荷される代わりに、同じ呼び出しが本番ポッドに対して実行されます。

ベンチマークには数週間かかりましたが、コードは1行でした

--use-angle=glが正しい行であることを証明するには、数週間の測定が必要でした。その時間のほとんどは2つの落とし穴に費やされました:

  • 開発マシンは嘘をつきます。 実際のGPUは、本番環境では黒く返ってくるページをレンダリングするため、すべての数値は本番形状のハードウェアから来る必要がありました。
  • 単一の実行は嘘をつきます。 コールドJIT、初回ペイントのレース、共有コアは結果を歪めます。最も速く見える結果が、時には間違った結果でした。フラットフォールバックは、約1秒速く出荷されました。

決定論的なベンチマークは、この理由のために存在します。固定されたシェーダーを強制フレームで実行し、安定した単一の数値を返します。そのため、比較は経験則ではなくなりました。SwiftShaderは24〜31秒、llvmpipeはウォームで正しい状態で約6秒でした。

本番の数値:約4倍(単独)、約2倍(負荷下)

以下のすべての数値は、本番環境で測定された、同じGPUレスハードウェア上の同じ3Dチャートからのものです:

SwiftShader (以前)Mesa llvmpipe (以後)
レンダリング時間(単独)約24秒約6秒(約4倍)
レンダリング時間(負荷下)約24秒7〜14秒(約2倍)
エラーリクエストタイムアウト → エラーなし
アクティブレンダラーSwiftShaderllvmpipe(CIでアサート済み)

単独では、チャートは約6秒で完了します。実際のトラフィック下では、キャプチャがコアを共有するため、約2倍になります。どちらの場合も、以前はタイムアウトしていたリクエストが完了するようになりました。

以下の例は、CLI、cURL、JavaScript、Python、Ruby、PHP、Golangを使用し、'https://threejs.org/examples/webgl_animation_skinning_blending' URLを'screenshot' APIパラメータでターゲットとするMicrolink APIの使用方法を示しています:

CLI Microlink API例
microlink https://threejs.org/examples/webgl_animation_skinning_blending&screenshot.animated
cURL Microlink API例
curl -G "https://api.microlink.io" \
  -d "url=https://threejs.org/examples/webgl_animation_skinning_blending" \
  -d "screenshot.animated=true"
JavaScript Microlink API例
import createClient from 'microlink.io'

const microlink = createClient()

const data = await microlink.screenshot('https://threejs.org/examples/webgl_animation_skinning_blending', {
  animated: true
})
Python Microlink API例
import requests

url = "https://api.microlink.io/"

querystring = {
    "url": "https://threejs.org/examples/webgl_animation_skinning_blending",
    "screenshot.animated": "true"
}

response = requests.get(url, params=querystring)

print(response.json())
Ruby Microlink API例
require 'uri'
require 'net/http'

base_url = "https://api.microlink.io/"

params = {
  url: "https://threejs.org/examples/webgl_animation_skinning_blending",
  screenshot.animated: "true"
}

uri = URI(base_url)
uri.query = URI.encode_www_form(params)

http = Net::HTTP.new(uri.host, uri.port)
http.use_ssl = true

request = Net::HTTP::Get.new(uri)
response = http.request(request)

puts response.body
PHP Microlink API例
<?php

$baseUrl = "https://api.microlink.io/";

$params = [
    "url" => "https://threejs.org/examples/webgl_animation_skinning_blending",
    "screenshot.animated" => "true"
];

$query = http_build_query($params);
$url = $baseUrl . '?' . $query;

$curl = curl_init();

curl_setopt_array($curl, [
    CURLOPT_URL => $url,
    CURLOPT_RETURNTRANSFER => true,
    CURLOPT_ENCODING => "",
    CURLOPT_MAXREDIRS => 10,
    CURLOPT_TIMEOUT => 30,
    CURLOPT_HTTP_VERSION => CURL_HTTP_VERSION_1_1,
    CURLOPT_CUSTOMREQUEST => "GET"
]);

$response = curl_exec($curl);
$err = curl_error($curl);

curl_close($curl);

if ($err) {
    echo "cURL Error #: " . $err;
} else {
    echo $response;
}
Golang Microlink API例
package main

import (
    "fmt"
    "net/http"
    "net/url"
    "io"
)

func main() {
    baseURL := "https://api.microlink.io"

    u, err := url.Parse(baseURL)
    if err != nil {
        panic(err)
    }
    q := u.Query()
    q.Set("url", "https://threejs.org/examples/webgl_animation_skinning_blending")
    q.Set("screenshot.animated", "true")
    u.RawQuery = q.Encode()

    req, err := http.NewRequest("GET", u.String(), nil)
    if err != nil {
        panic(err)
    }

    client := &http.Client{}
    resp, err := client.Do(req)
    if err != nil {
        panic(err)
    }
    defer resp.Body.Close()

    body, err := io.ReadAll(resp.Body)
    if err != nil {
        panic(err)
    }

    fmt.Println(string(body))
}
import createClient from 'microlink.io'

const microlink = createClient()

const data = await microlink.screenshot('https://threejs.org/examples/webgl_animation_skinning_blending', {
  animated: true
})

重いシェーダーヒーローは依然として黒く返ってくる可能性があります

ソフトウェアGLはギャップのほとんどを埋めますが、すべてではありません。重いフラグメントシェーダーヒーローは、キャプチャ時刻までにキャンバスがペイントされていないため、依然として黒く返ってくる可能性があります。これはレンダラーの問題ではなく、初回ペイントのレースであり、どのフラグもこれを修正しません。実際の2つの修正は、初回ペイントでキャプチャをゲートするか、実際のGPUを追加することです。私たちは最初のものを構築しています。

それ以外の場合は、SwiftShaderからllvmpipeへの移行により、最も遅く不安定なリクエストが通常のもののようになりました。上記の例を、アニメーションスクリーンショットパラメータを使用して、独自のWebGLページに対して実行し、確認してください。