HN 日本語サマリー

← 一覧へ戻る
インフラ・DevOps

Dockerビルドキャッシュの物理学

The physics of Docker build caching (blacksmith.sh)

15 pointsby piobio2 コメント

要約

Dockerのビルドキャッシュに関する一般的なアドバイスは、しばしば経験則や「魔法」のように語られますが、実際には3種類以上のキャッシュが存在し、それぞれ異なるライフタイム、無効化ルール、失敗モードを持っています。この記事では、これらのキャッシュの概念と、数百件のCIビルドを分析した結果に基づいた実践的なルールを解説します。ビルドの形状、使用する言語(Go, Python, Rust, Node, Java, Bazel)、キャッシュバックエンドによって最適な戦略は異なり、レイヤーの順序付けやマウントキャッシュの活用がビルド時間の最適化に不可欠であることが示されています。

全文翻訳

Dockerビルドキャッシュの物理学

TL;DR

概念、経験則、そして数百のCIビルドを分析した結果がそれらについて示唆すること。

Dockerビルドキャッシュに関するアドバイスは、しばしば伝承のように扱われます。「COPY」を遅らせる、何らかのキャッシュアクションを有効にする、といった具合です。問題は、「Dockerキャッシュ」が単一のものではなく、少なくとも3種類あり、それぞれ異なる寿命、無効化ルール、そして失敗モードを持っていることです。どれが重要で、伝承が助けになるのか、何も効果がないのか、あるいは積極的に害になるのかは、目の前にあるビルドの形状に依存します。

ビルドの形状は多すぎて一つ一つカバーするには: 各スタック、モノレポのレイアウト、オーケストレーションにはそれぞれ独自の癖があります。そのため、この記事は異なる種類の網羅性: どのようなシナリオでも結果を決定する概念と経験則を、それぞれベンチマークラボで測定した結果と共に示します。ラボは、Go、Python、Rust、Node、Java、Bazelの18のシナリオを網羅し、実際のCIランナーで実行され、一般的に使用されるすべてのキャッシュバックエンドを比較します。私たちの製品が優れている場合はそれを示し、本当に欠けているものがあれば、私たちの製品を含めて言及します。

メンタルモデル:3つのキャッシュ、1つの無効化ウェーブ

ここでの概念はそれ自体で完結しているため、Dockerfielの専門知識は必要ありません。例で特定の命令(FROM、COPY、RUN、マルチステージビルド)に言及する場合、DockerのDockerfileの概要とビルドのベストプラクティスは、参照するのに良い入門記事です。

Dockerビルドは命令の連鎖であり、各命令は命令とその入力をキーとするレイヤーを生成します。変更は、そのレイヤーとその後のすべてのレイヤーを無効化します。このウェーブはチェーンの最後まで伝播します。このグローバルな到達範囲が、ウェーブを最適化する価値がある理由です。ウェーブがどれだけ進むかが、変更ごとにどれだけのビルドが再実行されるかを決定します。

(厳密には、ビルドグラフはDAGです。マルチステージビルドでは、各ステージはCOPY --fromエッジで結合された独自のチェーンであり、ウェーブはその変更に依存するステージにのみ到達します。しかし、ステージ内では常にチェーンであり、ほとんどのDockerfileは実質的に単一のチェーンであり、ここでの例はそれを表しています。ウェーブについて言われていることはすべて、チェーンごとに適用されます。)

チェーンは最初のキャッシュにすぎません。他に2つが並んでいます。

  • マウントキャッシュ(RUN --mount=type=cache):ビルドをまたいで永続化されるディレクトリ。これらはウェーブを停止させず、クッションとなります。ウェーブが命令を再実行するとき、命令はそのマウントがまだ温かい状態で見つかるため、再実行はゼロからの実行ではありません。ここにパッケージマネージャーやコンパイラーの状態(GOCACHE、cargoのレジストリとtarget/、pipのホイール、pnpmのストア)があります。
  • イメージストア(/var/lib/docker):プルされたベースイメージ、ビルドされたイメージ、デーモン自体がキャッシュするすべて。これはチェーンに正確に1つの点で触れます。それはFROMレイヤーです。ベースイメージが変更されると、ウェーブは一番上から始まります。新しいベースが高速なローカル読み取りか、遅いレジストリプルになるかは、このストアに依存します。ウェーブは決してその中のものを無効化しません。そして、それはビルドをはるかに超えて存続します。docker run、サービスコンテナ、イメージ配布はすべて、このストアに対する読み取りです。

これらのキャッシュのそれぞれについて、以下のすべてのセットアップで繰り返し出てくる質問は次のとおりです:それはどこに存在し、次のCIジョブまで生き残りますか? 以下のすべては、この絵のどこかの一部をズームインしたものです。

[画像: Three caches, one invalidation wave — Blacksmith]

3つのキャッシュ、1つの無効化ウェーブ — Blacksmith

あなたの状況あなたがコストを払っているものそれを修正するもの
すべてのコミットで依存関係が再インストールされるインストールの上に COPY . . があるマニフェストファーストの順序付け(無料、3〜24倍)
コンパイル言語で、キャッシュされているのにまだ遅いexportバックエンドによってドロップされるマウントキャッシュ持続的なビルダー状態
「キャッシュ有効」で、変更するとコールドよりも遅くなるimport/export税 > ヒット値より小さいキャッシュ、またはエクスポートを停止する
多くの無関係なイメージ、1つのキャッシュEviction thrash (ヒット率 ≤ 0.2)イメージリネージごとに1つのキー
モノレポ、サービスごとのキーN回重複する共有ベースツリー用の1つの共有キー
cargo/pipキャッシュが永遠に成長するマウント内にツールチェーンGCがないツールチェーンを理解する; 時々キーをリセットする
N個のジョブが同じファットイメージをプルするレジストリのシリアライゼーション × N組織全体のイメージストアキャッシュ
イメージストアキャッシュを有効にした後、ビルドジョブが遅くなるload: true がキャッシュされたデーモンを通してイメージを二重に処理するpush: true がビルダーから直接行う
新しいキーでの最初のビルドが遅い何もフレッシュなキャッシュをシードしない(何もありません。これは本物です。)

そして、経験則を1画面にまとめます。

  1. ビルドではなく、変更クラスで考える。デモではなく、ソース変更を最適化する。
  2. レイヤー順序付けのペイオフは、それが保護するステップのコストに等しい。
  3. 持続させる方法を選ぶ前に、ビルドの勝利がどこにあるか(レイヤーかマウントか)を知る。
  4. Exportバックエンドは、すべてのビルドで転送税を課す。ヒットが税金以上の価値がある場合にのみ使用する。
  5. レイヤーが共有されている限り、キャッシュを共有する。
  6. キャッシュは、ビルド回数ではなく、検出された異なる依存関係バージョンと共に成長する。
  7. 分配もキャッシングである。勝利は、まったくシリアライズしないことである。

これらはどれも、順序の悪いDockerfileを高速にすることはできず、真の最初のビルドを安価にすることもできません。しかし、その2つの極端な間には、CIチームがテーブルに残している10〜100倍のほとんどすべてが、これらの7つと、それらを生成する3つのキャッシュの絵にかかっています。