HN 日本語サマリー

← 一覧へ戻る
インフラ・DevOps

ダウンタイムゼロのKubernetesを実現するためのクラスター統合

Federating Clusters for Zero-Downtime Kubernetes (linkerd.io)

25 pointsby PagCatOli1 コメント

要約

この記事では、Linkerdのマルチクラスター拡張機能を使用して、Kubernetesクラスターを統合し、ダウンタイムゼロを実現する方法について解説します。特に、ゲートウェイ、フラット、フェデレーションという3つの異なるマルチクラスターモードを組み合わせ、複数のGKEクラスター間でサービスを単一のロードバランスされたエンドポイントとして提供するアーキテクチャが示されています。これにより、リージョン全体の障害が発生した場合でも、サービスの継続性を確保し、自動フェイルオーバーを実現します。

全文翻訳

ゼロダウンタイムKubernetesのためのクラスターフェデレーション

マルチリージョン環境では、あるクラスター全体がダウンしても、他のリージョンで稼働している同一サービスのコピーが、それらが一つとして扱われていないために、まるで存在しないかのように機能しないという、同じような残念な状況に必ず直面します。フェイルオーバーは、復旧し、DNSを再設定し、理論上はすでに回避するために費用を払ったはずの障害を待つという、ランブック作業になります。

Linkerdのマルチクラスター拡張機能は、複数のクラスターに単一のロードバランシングされたエンドポイントとしてサービスを提示させることで、このギャップを埋めます。公式ドキュメントで省略されがちなのは、実際のプラットフォームで単一のマルチクラスターモードが選ばれることはほとんどないということです。一部のサービスはフェデレーション(どこでも同じサービス、単一のエンドポイント、自動フェイルオーバー)を望みます。一方で、他のサービスはミラーリング(名前で特定のリモートサービスに到達する)を望みます。そして、しばしば両方のパターンを同じリンクセット上で稼働させる必要があります。ドキュメントは各モードを個別に解説しています。この記事では、3つのGKEクラスター全体で、フルメッシュのリンクトポロジー、クラスター全体をダウンさせるカオス実験、そしてクローンして新規GCPプロジェクトで実行できるスクリプトを用いて、これら3つすべてを連携させます。

補足リポジトリ: ここで参照されているすべてのスクリプトは、このリポジトリにあります。自由にクローンして、プロジェクトIDを設定し、実行してください。

Linkerdマルチクラスターモード:ゲートウェイ、フラット、フェデレーテッド

Linkerdのマルチクラスター拡張機能は、3つのモードをサポートしています。良い点は、これらが相互排他的ではないということです。同じリンクされたクラスターセット上で、モードはラベルを介してサービスごとに選択されます。

モードラベル
階層型 (ゲートウェイ)mirror.linkerd.io/exported=true
フラット (Pod間)mirror.linkerd.io/exported=remote-discovery
フェデレーテッドmirror.linkerd.io/federated=member
何が起こるかネットワーク要件
サービスが <svc>-<cluster> としてミラーリングされ、トラフィックはゲートウェイを経由してルーティングされるゲートウェイIPが到達可能
サービスが <svc>-<cluster> としてミラーリングされ、トラフィックはリモートPodに直接送信されるフラットネットワーク(Pod IPがルーティング可能)
すべての同名サービスが <svc>-federated に統合され、すべてのクラスター間でロードバランシングされるフラットネットワーク(Pod IPがルーティング可能)

運用上重要な違いは、階層型ミラーリングはあらゆるネットワークで機能することです。ゲートウェイIPのみが到達可能であればよく、フラットおよびフェデレーテッドモードは実際のPod間接続が必要です。GCPでは、ピアリングされたVPC上のVPCネイティブGKEクラスターは、このフラットネットワークを無料で提供します。したがって、フラットネットワーク上でコアワークロードのためにフェデレーテッドサービスを実行し、そのネットワーク上にないクラスターからゲートウェイ経由で特殊なサービスをミラーリングすることも可能です。私がこれまで見てきたほとんどのプラットフォームチームは、まさにこの種のミックスに行き着いています。

マルチリージョンアーキテクチャ:GKEクラスターセットアップ

3つのリージョンにまたがる3つのGKEクラスターがあり、それぞれが完全にリンクされています(合計6つの双方向リンク)。3つのデモサービスがあり、それぞれが異なるマルチクラスターモードを使用しています。

[画像: GCP Project]

frontend はフェデレーテッドで、3つのクラスターすべてで実行されます。各クラスターの単一のフェデレーテッドfrontendサービスは、9つのPod(3レプリカ × 3クラスター)全体でロードバランシングを行います。クラスターがダウンしても、残りの6つのPodはアプリケーションの変更なしにトラフィックを吸収します。

api はフラットミラーリングされ、west と east で実行されます。north クラスターは、明示的なリモートサービス名でありトラフィックが直接リモートPodに送信される api-west および api-east としてこれを消費します。これは、クライアントがどのバックエンドと通信するかを決定する必要がある場合、例えばデータ局所性のためにリクエストをインリージョンに保つ場合などに選択します。

analytics はゲートウェイミラーリングされ、east のみで実行されます。Linkerdゲートウェイ経由でエクスポートされるため、west と north はフラットネットワーク接続なしで analytics-east-gw としてそれに到達します。これは主に、ゲートウェイモードが同じリンク上でフラットおよびフェデレーテッドモードと共存できることを証明するためにここにあります。

デプロイメントの前提条件:GKE、Linkerd、およびCLIツール

  • GCPアカウント(無料ティアのクレジットでカバーできます。小規模ノードプールを持つ3つの標準クラスターを使用してください)
  • gcloud CLI、認証済み(gcloud auth login)
  • kubectl v1.28+
  • step CLI、brew install step(証明書生成用)
  • helm v3
  • 全体のセットアップに約30分

インフラスクリプトは、compute および container APIを有効にするため、完全に新しいプロジェクトでもすぐに使用できます。

ステップ0:設定

リポジトリをクローンし、env.example ファイルからローカルの .env ファイルを作成し、GCPプロジェクトに合わせてカスタマイズします。デフォルト設定はデモの残りの部分で十分なので、ほとんどの場合、プロジェクトIDを変更するだけで済みます。

git clone <your-repo-url>
cd blog-linkerd-federation
cp env.example .env

.env を開き、少なくともプロジェクトIDを設定してください。ファイルには、他のすべての項目について適切なデフォルト値が含まれています。

export GCP_PROJECT="your-project-id"

export REGION_WEST="us-central1"
export REGION_EAST="us-east1"
export REGION_NORTH="europe-west1"

# 各リージョンに1つのゾーン。ノード数を合計ノード数にするため、ノードロケーションを単一ゾーンに固定します。
export ZONE_WEST="us-central1-a"
export ZONE_EAST="us-east1-b"
export ZONE_NORTH="europe-west1-b"

export CLUSTER_MACHINE_TYPE="e2-medium"
export CLUSTER_NODE_COUNT="1"
export FRONTEND_REPLICAS="3"

最低限、GCP_PROJECT を設定してください。他のすべては適切なデフォルト値で提供されます。3つのリージョン、各リージョンに1つのゾーン、そしてコストを抑えるための小規模ノードプールです。cat .env を実行すると、すべての変数が設定されていることが確認できます。

スクリプトが読み取れるように、変数を現在のシェルにロードしてください。

source .env

以下のすべてのスクリプトは、このファイルから読み込み、すべて set -euo pipefail で実行されるため、変数が不足している場合はサイレントに失敗するのではなく、大きなエラーで失敗します。そのため、env.example はプロジェクトIDだけでなく、VPCとクラスター名を含めたすべての設定を保持しています。

ステップ1:VPCピアリングを備えた3つのGKEクラスターのプロビジョニング

インフラスクリプトを実行して、ネットワークとクラスターを作成します。これには約10〜15分かかりますので、コーヒーを飲むのに良い時間です。

./scripts/01-infra.sh

このスクリプトは以下のことを行います。

  1. compute および container APIを有効にします(すでに有効な場合は何もしません)。
  2. 3つのVPC を、重複しないPodおよびサービスCIDRで作成します。これはVPCピアリングの必須要件です。
  3. Pod CIDRが実際にアドバタイズされるように、--export-custom-routes および --import-custom-routes を使用してフルメッシュVPCピアリング(west↔east、east↔north、north↔west)を設定します。これがフラットネットワークを提供します。
  4. 各VPC/リージョンに1つずつ、単一ゾーンに固定された3つのGKE Standardクラスターを作成します。
  5. kubectlコンテキスト を west、east、north にリネームします。

このスクリプトが使用するアドレスプランは以下の通りです。VPCピアリングがPodトラフィックを正しくルーティングできるように、範囲は意図的に重複させていません。

クラスターVPCサブネットPod CIDRサービスCIDR
west10.10.0.0/2010.100.0.0/1410.104.0.0/20
east10.20.0.0/2010.108.0.0/1410.112.0.0/20
north10.30.0.0/2010.116.0.0/1410.120.0.0/20

重複しない範囲は必須です。ピアリングされたVPC間でPod CIDRが重複すると、ルーティングがサイレントに失敗します。Podは間違ったクラスターからの応答を受け取るか、ログに有用な情報がないまま接続がタイムアウトします。私がどうして知っているか尋ねてください。

1つのゾーン、3つではない。GKEのリージョナルクラスターは、デフォルトで3つのゾーンそれぞれに --num-nodes ノードを配置します。--num-nodes 1 の場合、クラスターあたり3ノード、合計9ノードとなり、請求額が3倍になります。スクリプトは --node-locations を単一ゾーンに固定するため、CLUSTER_NODE_COUNT=1 は本当にクラスターあたり1ノードを意味します。

コストに関する注意: 各クラスターに1つの e2-medium ノードを持つ3つのStandardクラスターは、このデモ全体で1日あたり約10〜15ドル(管理料金 + ノード + east の小さなゲートウェイロードバランサー)で実行できます。ティアダウン スクリプトですべて削除されます。

共通のトラストアンカーを使用して、すべての3つのクラスターにLinkerdをインストールします。スクリプトは証明書を生成し、コントロールプレーンをインストールし、各クラスターが他のクラスターをクロス・クラスターmTLSのために信頼するように設定します。

./scripts/02-linkerd-install.sh

これにより、ルートCAとクラスターごとのイシューア証明書が生成され、その後、すべてのクラスターにLinkerdがインストールされます。

root.crt (共通トラストアンカー)
├── issuer-west.crt + issuer-west.key
├── issuer-east.crt + issuer-east.key
└── issuer-north.crt + issuer-north.key

クラスターごとのイシューア証明書は、維持する価値のある本番環境の習慣です。1つのクラスターのイシューアが侵害された場合、他のクラスターに影響を与えることなく、それを単独でローテーションできます。共通のルートは、クロス・クラスターmTLSがそもそも機能することを可能にします。すべてのプロキシは、同じアンカーまで遡って、他のすべてのプロキシのIDを検証できます。

リソース使用量(およびコスト)を抑えるため、ここではVizアドオンなしのコントロールプレーンのみをインストールします。

ステップ3:マルチクラスターのインストールとフルメッシュリンクトポロジーの作成

マルチクラスターコンポーネントを設定し、クラスター間にフルメッシュトポロジーを作成します。このステップの後、すべてのクラスターは他のすべてのクラスターのサービスを消費できるようになります。

./scripts/03-multicluster-setup.sh

これは最も多くの処理が行われるステップです。クラスター間の6つの双方向リンクを作成し、すべてのクラスターが他のすべてのクラスターとリンクされるため、すべてのクラスターがフェデレーテッドワークロード用の <svc>-federated サービスを受け取り、すべてのクラスターが他のクラスターのミラーリングされたサービスを消費できるようになります。

ここで注意すべき点はゲートウェイです。east のみゲートウェイが必要です(analytics を階層的にエクスポートしている唯一のクラスターです)。そのため、east のインストールでゲートウェイを有効にし、他のすべてのクラスターはゲートウェイなしで動作させます。クラスターごとに1つのインストールで、すべてのフラグを一度に設定し、後でゲートウェイを追加するためにインストールを再実行する必要はありません。

# west: ゲートウェイなし、消費するクラスターごとに1つのコントローラー
linkerd --context west multicluster install --gateway=false \
  --set controllers[0].link.ref.name=east \
  --set controllers[1].link.ref.name=north \
  --set controllers[2].link.ref.name=east-gw \
  | kubectl --context west apply -f -

# east: ここでゲートウェイが有効、消費するクラスター用のコントローラー
linkerd --context east multicluster install --gateway=true \
  --set controllers[0].link.ref.name=west \
  --set controllers[1].link.ref.name=north \
  | kubectl --context east apply -f -

# north: ゲートウェイなし、west、east、およびeastのゲートウェイリンク用のコントローラー
linkerd --context north multicluster install --gateway=false \
  --set controllers[0].link.ref.name=west \
  --set controllers[1].link.ref.name=east \
  --set controllers[2].link.ref.name=east-gw \
  | kubectl --context north apply -f -

コントローラーの数に注意してください。サービスミラーコントローラーは消費側で実行され、リンクごとに1つです。west と north はそれぞれゲートウェイ経由で analytics を消費するため、east-gw リンク用の3番目のコントローラーが追加されます。east は自身のanalyticsを消費しないため、2つのみ必要です。

次にリンクを生成します。フラット/フェデレーテッドリンクは --gateway=false を使用します。eastへのゲートウェイ対応リンク(analytics階層エクスポート用)は別のリンクで、名前は east-gw です。

# フラットリンク(ゲートウェイなし)— フェデレーテッド+フラットミラーリングサービス用
linkerd --context east multicluster link-gen --cluster-name=east --gateway=false \
  | kubectl --context west apply -f -
linkerd --context west multicluster link-gen --cluster-name=west --gateway=false \
  | kubectl --context east apply -f -
# ... (すべての6方向)

# eastからのゲートウェイ対応リンク(analytics階層エクスポート用)
linkerd --context east multicluster link-gen --cluster-name=east-gw \
  | kubectl --context west apply -f -
linkerd --context east multicluster link-gen --cluster-name=east-gw \
  | kubectl --context north apply -f -

この後、いずれかのクラスターで linkerd multicluster check を実行すると、リンクされたすべてのクラスターが正常であることを報告するはずです。

ステップ4:デモサービスのデプロイ

デモワークロードをデプロイします。次のセクションでは、これらをフェデレーション、フラットミラーリング、およびゲートウェイミラーリング用にラベル付けし、各モードが何を作成するかを示します。

./scripts/04-deploy-app.sh

3つのサービス、3つのモード、そしてすべてに意図的に同じ buoyantio/bb イメージを使用します。これは、固定文字列をエコーする小さなHTTPサーバーです。アプリケーションが重要なのではありません。重要なのは、1つの kubectl label コマンドでLinkerdがクラスター間でサービスをどのように扱うかが変更され、他のすべては一定に保たれることです。

frontend (フェデレーテッド)

各クラスターにデプロイし、クラスターごとの応答文字列を設定してから、フェデレーション用にラベル付けします。

for ctx in west east north; do
  kubectl --context $ctx -n mc-demo label svc/frontend mirror.linkerd.io/federated=member
done

数秒以内に、frontend-federated がすべてのクラスターに表示されます。

$ kubectl --context west -n mc-demo get svc
NAME                 TYPE        CLUSTER-IP     PORT(S)    AGE
frontend             ClusterIP   10.104.1.50    8080/TCP   45s
frontend-federated   ClusterIP   10.104.2.100   8080/TCP   10s
api (フラットミラーリング)

west および east のapiサービスにフラットエクスポート用のラベルを付けます。

kubectl --context west -n mc-demo label svc/api mirror.linkerd.io/exported=remote-discovery
kubectl --context east -n mc-demo label svc/api mirror.linkerd.io/exported=remote-discovery

これで north は api-west および api-east を個別のサービスとして認識できます。

$ kubectl --context north -n mc-demo get svc
NAME                 TYPE        CLUSTER-IP      PORT(S)    AGE
frontend             ClusterIP   10.120.1.50     8080/TCP   45s
frontend-federated   ClusterIP   10.120.2.100    8080/TCP   10s
api-west             ClusterIP   10.120.3.20     8080/TCP   5s
api-east             ClusterIP   10.120.3.21     8080/TCP   5s

north のクライアントは明示的に api-west または api-east を選択します。トラフィックはゲートウェイを経由せずに直接リモートPodに送信されます。

analytics (ゲートウェイミラーリング)

次に、east のみにデプロイし、階層型(ゲートウェイ)エクスポート用にラベル付けします。

kubectl --context east -n mc-demo label svc/analytics mirror.linkerd.io/exported=true

これにより、west および north に analytics-east-gw が作成され、eastのLinkerdゲートウェイを経由してルーティングされます。

$ kubectl --context west -n mc-demo get svc analytics-east-gw
NAME               TYPE        CLUSTER-IP     PORT(S)    AGE
analytics-east-gw  ClusterIP   10.104.5.10    8080/TCP   5s

このサービスのサービスエンドポイントは、analytics Podに直接ではなく、eastのゲートウェイIPを指します。これは、フラットネットワーク接続を保証できない場合、またはゲートウェイがロードバランシングとmTLS終端を処理することを特に望む場合に適切なトレードオフです。

ステップ5:3つのモードすべてを検証する

すべての3つのサービスパターンに対してトラフィックを生成し、それぞれが期待どおりに解決されることを確認します。

./scripts/05-verify.sh

これにより、north にトラフィックジェネレーターがデプロイされ、3つのサービスパターンすべてにループでアクセスし、ログをテールします。応答文字列はデプロイメントから直接取得されるため、どのクラスターが各リクエストを処理したかがわかります。

[federated]  frontend from east
[federated]  frontend from west
[federated]  frontend from north
[flat-west]  api from west
[flat-east]  api from east
[gateway]    analytics from east

エンドポイントを検査して、各モードがどのように異なる解決を行うかを確認することもできます。

# フェデレーテッド:エンドポイントは3つのクラスターすべてにまたがる
$ linkerd --context west diagnostics endpoints frontend-federated.mc-demo.svc.cluster.local:8080
NAMESPACE   IP            PORT   POD                        SERVICE
mc-demo     10.100.1.15   8080   frontend-xxx-west          frontend.mc-demo
mc-demo     10.108.0.42   8080   frontend-xxx-east          frontend.mc-demo
mc-demo     10.116.0.33   8080   frontend-xxx-north         frontend.mc-demo

# フラットミラー:エンドポイントはリモートPod IP
$ linkerd --context north diagnostics endpoints api-west.mc-demo.svc.cluster.local:8080
NAMESPACE   IP            PORT   POD                        SERVICE
mc-demo     10.100.2.10   8080   api-xxx-west               api.mc-demo

# ゲートウェイミラー:エンドポイントはポート4143のeastのゲートウェイIP
$ kubectl --context west -n mc-demo get endpoints analytics-east-gw
NAME               ENDPOINTS             AGE
analytics-east-gw  35.186.xxx.xxx:4143   30s

3つのモード、1つのメッシュ、1つのクラスターセット、そしてそれらの間の唯一の違いはラベルです。

ステップ6:カオス実験、クラスターの停止

ここでフェデレーションの真価が発揮されます。クラスター全体の障害をシミュレートし、各サービスタイプがどのように反応するかを観察します。

./scripts/06-chaos-test.sh

スクリプトは east のすべてのデプロイメントをゼロレプリカにスケールダウンします(クラスター障害の代わり)、その後、3つのパターンすべてに対して north からトラフィックをサンプリングします。

フェデレーテッドサービス (frontend-federated)
Before:  west=33% east=33% north=33%
After:   west=50% north=50%              ← 自動リバランス、エラーゼロ

トラフィックは即座に再分散されます。エラーなし、設定変更なし。eastのPodがエンドポイントリストから外れると、Linkerdのロードバランサーは残りのPodにリクエストを分散させるだけです。

フラットミラーリングサービス (api-east)
Before:  api-east は正常に応答
After:   api-east は 503 を返す           ← 予想通り:リモートPodが存在しない

これは正しい動作です。クライアントは明示的に api-east を要求しましたが、eastはダウンしています。これを処理するのはクライアントの仕事です。api-west にフェイルオーバーする、リトライする、あるいはそれらをTrafficSplitで前面に出すなどです。ミラーリングは制御をあなたに渡し、フェデレーションは自動化をあなたに渡します。

ゲートウェイミラーリングサービス (analytics-east-gw)
Before:  analytics-east-gw は正常に応答
After:   analytics-east-gw は 502 を返す  ← ゲートウェイもダウンしている

ここでも同じ話です。クライアントは特定のリモートを要求しましたが、そのリモートはダウンしています。

eastを復旧させます。

kubectl --context east -n mc-demo scale deploy --all --replicas=1
kubectl --context east -n mc-demo scale deploy/frontend --replicas=3

(スクリプトは frontend を1ではなく、元の FRONTEND_REPLICAS 数に復元します。そうしないと、eastは重みが不足した状態でフェデレーションに再参加し、約14%になる可能性がありますが、均等な3分の1ではありません)。15〜30秒以内に、3つのパターンすべてが回復します。フェデレーテッドサービスは33/33/33に再バランスされ、ミラーリングされたサービスは再び応答し始めます。

このデモから持ち帰るべき教訓は、フェデレーションは「どこでも利用可能であるべき」ものすべてにとって正しいデフォルトであるということです。ミラーリング(フラットまたはゲートウェイ)は、クライアントが実際にどのクラスターと通信しているかを知る必要がある場合に正しい選択です。

ステップ7:ティアダウン

デモが終了したら、ティアダウン スクリプトを実行してすべてのインフラストラクチャを削除し、GCPの継続的な請求を回避してください。

./scripts/99-teardown.sh

これにより、前のステップで作成されたすべてのクラスター、VPCピアリング、サブネット、ファイアウォールルール、およびVPCが削除されます。終了したら実行して、メーターを停止してください。

Linkerdマルチクラスターアーキテクチャ戦略の選択

3つすべてを並行して実行した後、チームメイトに渡すことができる決定フレームワークは次のとおりです。

質問→ モード
クライアントはクラスターに依存しないべきか?フェデレーテッド
クライアントは特定のクラスターを選択する必要があるか?フラットミラー
クラスター間にフラットネットワークがないか?ゲートウェイミラー
アプリケーションの変更なしで自動フェイルオーバーが必要か?フェデレーテッド
明示的な重み付けを持つトラフィック分割が必要か?フラットミラー + TrafficSplit
サービスはシングルトン(単一クラスターのみ)か?ミラー(フラットまたはゲートウェイ)

そして、それらを同じメッシュで自由に混在させることができます。各サービス上のラベルが、他のサービスとは独立してその動作を決定します。

Linkerdマルチクラスターの注意点と設定の教訓

ドキュメントからすぐに読み取れず、時間を浪費した注意点は次のとおりです。

VPCピアリングルート交換。ピアリングを作成するだけでは不十分です。--export-custom-routes と --import-custom-routes を両側で渡す必要があります。そうしないと、Pod CIDRがアドバタイズされません。症状は診断が非常に困難です。DNSは正常に解決されますが、接続はハングします。デバッグが非常に面倒です。

リージョナルクラスターはノードを乗算する。--num-nodes 1 を持つリージョナルクラスターは、静かに3つのノード(ゾーンごとに1つ)を提供します。1つのノードに保つために --node-locations を単一ゾーンに固定しています。請求書が届くまで見落としやすいです。

CIDRの重複。GKEはデフォルトで 10.0.0.0/8 スペースから大きな範囲を自動割り当てします。デフォルトで構築された3つのクラスターは重複するため、ピアリングがサイレントに失敗します。常に明示的で重複しない --cluster-ipv4-cidr と --services-ipv4-cidr を設定してください。

コントローラーの数。各クラスターは、消費するリンクごとに1つのサービスミラーコントローラーが必要です。1つを逃すと、Link CRは作成されますが、何もミラーリングされず、linkerd multicluster check は緑色のままなので、しばらくの間、理解するのに苦労するでしょう。

フェデレーテッドサービス名の固定。フェデレーテッドサービスは常に <svc>-federated です。接尾辞を変更することはできません。クライアントは frontend ではなく frontend-federated をターゲットにする必要があります。それに合わせて命名するか、TrafficSplitを使用して frontend を frontend-federated にポイントしてください。

ゲートウェイとフラットは1つのリンクを共有できない。単一のLink CRはゲートウェイまたはフラットのいずれかであり、両方ではありません。同じクラスターで両方の動作を取得するには、異なる名前を持つ2つのリンクを作成します。そのため、私たちのセットアップでは、east(フラット)と east-gw(ゲートウェイ)を別々のリンクとして使用し、消費クラスターでそれぞれのリンクに対応するコントローラーを使用しています。

本番環境チェックリスト

  • 双方向リンク すべてのクラスター間(フルメッシュ)、これによりすべてのクラスターがフェデレーテッドサービスを持つことができます
  • cert-manager 手動で生成した step 証明書の代わりに、共通のCAを使用
  • 個別のイシューア証明書 クラスターごと(省略しないでください!)
  • NetworkPolicies クロス・クラスタートラフィックを必要なサービスのみに制限
  • Linkerd認可ポリシー 詳細なアクセス制御のため
  • 監視 Linkerd-VizメトリクスをPrometheus/Grafanaスタックにパイプし、フェデレーテッドサービスのEndpoint数の減少をアラートする
  • GitOps Link CRおよびマルチクラスター設定をバージョン管理する
  • フェイルオーバーの定期的なテスト ステージングでクラスターをゼロにスケールダウンし、トラフィックが再分散されることを確認する

主要なテイクアウェイ:マルチリージョンLinkerdデプロイメントのマスター

ドキュメントは各マルチクラスターモードを個別に示していますが、実際のプラットフォームはすべてを同時に必要とします。フェデレーションは一般的なケースをカバーします。同じサービスがどこでも利用可能で、自動フェイルオーバーがあり、アプリの変更は不要です。フラットミラーは、データ局所性が重要な場合に、明示的なクラスター認識ルーティングを提供します。ゲートウェイミラーは、フラットネットワークが利用できない場合にクロス・クラスター到達を可能にします。

これを構築する上で最も驚いたのは、実際に複雑な部分がどれほど少ないかということです。ほとんどは配線作業です。トラストアンカーが共有され、リンクが確立されると、フェデレーションにサービスを追加するのは単一の kubectl label コマンドであり、クラスターを削除するのはクラスターをダウンさせるのと同じくらい簡単です。メッシュは自動的に調整されます。

リージョンをまたいで実行するチームにとって、それは運用上の多くの労力を削減します。サービスはどこでも実行され、トラフィックは正常なコピーを見つけ、サービスが実際に必要とするものに基づいて、サービスごとにマルチクラスターモードを選択できます。

参考文献