Galeraノードの重みを再評価する:できるからといって、すべきとは限らない
Just Because You Can, Doesn't Mean You Should: Re-Evaluating Galera Node Weights (percona.com)
要約
Galeraクラスタ(Percona XtraDB Clusterなど)では、通常、奇数個のノードをデプロイすることが推奨されています。これは、ノード間の重み設定 wsrep_provider_options=”pc.weight=N” を使用して偶数個のノードでクォーラム計算を管理できる場合でも、スプリットブレインのリスクを回避するためです。この記事では、クォーラム計算の仕組みと、ノードの重みを変更することがもたらす複雑さと潜在的なリスクについて解説しています。
全文翻訳
できるからといって、すべきとは限らない:Galeraノードの重みの再評価
Galera(Codership)ベースのクラスタ、例えばPercona XtraDB Cluster(PXC)を使用する際には、奇数個のノードをデプロイすることが推奨されていることは皆さんもご存知でしょう。[画像]
この推奨の一般的な理由は、そうでなければ不整合なクラスタ(スプリットブレインなど)のリスクが高まるからです。(Get started with Percona XtraDB Cluster – Percona XtraDB Cluster を参照)
念のため説明すると、スプリットブレインが発生すると、クラスタはクエリの受付を停止します。これは、DBAがレビューしてどちらのノードがリーダーであるかを決定するまで、安全なソリューションが取るべき動作です。悪名高い wsrep_provider_options=”pc.ignore_sb = yes” については、説明すらしたくありません。これは、破損したデータセットを調和させるために費やされた多くの、多くの夜の原因となっています。もしそれが設定されているなら、削除してください。
しかし、Galeraには wsrep_provider_options=”pc.weight=N” という設定もあります。これを使用すると、各ノードのクォーラム計算に特定の重みを定義できます。
自然な疑問が生じます:各ノードに異なる重みを割り当てることができるなら、なぜ偶数個のノードを持つことができず、それらに異なる重みを割り当てることができないのでしょうか?
その答えは簡単です。はい、できます。
しかし、誰が異なる重みを持つべきで、それをどのように分散させるかを特定することは簡単ではありません。
問題を理解するために、クォーラムがどのように計算されるか(以前ここで少し触れました:TusaCentral – Geographic replication and quorum Calculation in MySQL/Galera)と、Viewとは何かをレビューする必要があります。
Percona XtraDB Cluster(PXC)およびGaleraでは、View(またはクラスタビュー)は、特定の時点でのクラスタの合意されたメンバーシップです。これは、現在接続されており、同期され、積極的に通信しているノードの正確なリストを表します。
ノードがクラスタに参加したり、正常に離脱したり、ネットワーク障害によりドロップアウトしたりするたびに、残りの接続ノードは新しいViewをネゴシエートし、一意のView IDを割り当てます。
Primary Component (PC) との関係は、クォーラムに基づいています。
- クォーラムチェック: 新しいViewが形成されるたびに、その中のノードはクラスタの総投票数の過半数を保持しているかどうかを計算します。
- Primary Component: 新しいViewが過半数を持つ場合、それはPrimary Componentとして指定されます。Primary Componentのみがトランザクションを受け付けて処理することを許可されます。
- 非Primary View: ネットワーク分割が発生した場合、孤立したノードは独自の個別のViewを形成します。この小さなViewは過半数を欠いているため、非Primary Componentとなり、スプリットブレインによるデータ破損を防ぐためにデータベース操作を直ちに停止します。
本質的に、Viewは現在誰が互いに接続されているかを定義し、Primary Componentはデータベースを安全に実行し続けるのに十分なメンバーを持つ特定のViewです。
| 1 2 3 4 5 6 7 8 9 10 11 12 | 2026-11-10T13:45:01.498927Z 0 [Note] [MY-000000] [Galera] Node 49d8df08-bad6 state primary 2026-11-10T13:45:01.500967Z 0 [Note] [MY-000000] [Galera] Current view of cluster as seen by this node view (view_id(PRIM,49d8df08-bad6,93) memb { 49d8df08-bad6,2 5ce1a9aa-8e06,2 8458c8f0-9b8f,2 } joined {} left {} partitioned { 85a6e937-b8c4,2} ) |
クォーラムを計算する式は次のとおりです。
Σ p·w < 2·(Σ m·w + Σ l·w)
ここで:
p = 最後のPRIMARY viewのメンバー
l = 正常に離脱したメンバー(LEFT)
m = 評価中のコンポーネントのメンバー
w = pc.weight (0–255)。
要するに、前のPrimary viewの総重みが、新しいコンポーネントのメンバーの重みの2倍と、正常に離脱したメンバーの重みの合計よりも小さい必要があります。明確にするために、クラッシュした/到達不可能なノード(DOWNまたは別のパーティションにある)は、Σ p·w にカウントされるため、しきい値を引き上げます。一方、正常な離脱(LEFT)は新しいコンポーネントに加算されます。また、最後のPCに含まれていなかったノードは計算から除外されるため、新しく参加した、または再参加したノードはこのチェックに何も貢献しません。
関数を探してください:
C
| 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 | bool gcomm::pc::Proto::have_quorum(const View& view, const View& pc_view) const { // Compare only against members and left which were part of the pc_view. gcomm::NodeList memb_intersection( |
| node_list_intersection(view.members(), pc_view.members())); gcomm::NodeList left_intersection( | |
| node_list_intersection(view.left(), pc_view.members())); if (have_weights(...)) return (weighted_sum(memb_intersection, instances_) * 2 + weighted_sum(left_intersection, instances_) > weighted_sum(pc_view.members(), instances_)); else return (memb_intersection.size()*2 + left_intersection.size() > pc_view.members().size()); } |
(リポジトリ https://github.com/percona/galera/tree/a6b54d887d58bae43ae3f46f5696195329405b7e)
ここで、4ノードのクラスタがあると仮定しましょう。物事がうまくいく組み合わせと、逆に私たちをひどく苦しめる組み合わせは数多く存在します。
最も一般的なのはスプリットブレインシナリオです。
これを防ぐために、異なる重みを持つノードを使用することを決定するかもしれません。
これで解決です…本当に?
いいえ、なぜなら重みを変更すると他の問題が発生する可能性があるからです。例えば、ノード数に対して重みを誤って計算した場合です。
この場合、単一のノードがクラスタ全体をダウンさせる可能性があります。
もちろん、標準的な操作を実行したり、障害が連鎖して発生し、クラスタがPrimary Componentを再構築する時間があれば、すべてうまくいくでしょう。
問題は次のとおりです。
- クラスタのサイズは動的であり、アクティブなPrimary Componentに関連して変化します。
- オペレータ(例:Kubernetes)によって管理される環境では、ノード数のスケーリングはさらに動的で予測が困難です。
- 現実世界では信じられないほど多様なシナリオが発生する可能性があります。私はほんのいくつかを作成しました(PDF を参照)。
本当の質問は、それができるかどうかではなく、それだけの価値があるかどうかです。奇数個のノードを使用することは役立つのでしょうか、それともそうでないのでしょうか?
答えは部分的なものです。
奇数ノードは、単純な状況での完全なタイケースを排除します。クラスタがPRIMARY状態を失うことを完全に停止させるわけではありません。
重要なのは、ノード数ではなく、総重みの偶奇性です。
タイは、present = partitioned の場合に発生します。これは、カウントされた重み(Σw(PC) − Left)が正確に半分に分割されることを意味します。
これは、カウントされた重みが偶数の場合にのみ可能です。したがって:
- 重み1のノードが5つ、任意の2つの分割: 3|2 または 4|1。片方が常に明確に勝ちます。
- 重み2のノードが1つ(合計7)の6ノードクラスタ: 奇数クラスタとまったく同じように動作します。Galera Arbitrator(garbd)を7番目の投票者として追加することも同様です。
- 重みが2、1、1の3ノード(合計4): これは偶数の合計を持つ奇数ノード数であり、再びタイが発生する可能性があります。
奇数ノードが依然としてPRIMARYを失う場合:
- PCは各障害後に縮小し、その偶奇性が変化します。 5ノードは1つ失ってもPRIMARYのままですが、新しいPCは4ノードになります。その後、2|2の分割はタイになります。連続した障害は依然として2ノードで終了し、それらのいずれかを失うとタイになります。
- 正常な離脱は偶奇性を変更します。 5ノードのうち1つがクリーンにシャットダウンした場合、カウントされた重みは4になり、2|2の分割はタイになります。
- 3つ以上のグループに分割される場合。 5ノードの2|2|1分割はタイになりませんが、どのグループも他のグループの合計よりも大きくありません(2 < 3)。したがって、すべてのグループはNON-PRIMARYになります。
- 過半数を失うことは依然として失うことです。 5ノードは2つの障害には耐えられますが、3つには耐えられません。したがって、奇数ノードは耐障害性を追加しません。5ノードと6ノードはどちらも2つの障害しか許容できません。6番目のノードはコストとタイのリスクを追加し、追加の耐性はありません。
- 2つのデータセンター。 3+2ノードの場合、3ノードサイトはリンクカットを生き残りますが、そのサイトがダウンすると、2ノードサイトは停止します。どちらかのサイトの損失を生き残るには、たとえgarbdしか実行していなくても、第3の場所が必要です。
実際には: PCで奇数の総重みを目指し、マルチDCセットアップには第3サイトまたはアービターを使用してください。それでも、すでに縮小したクラスタは再び偶数になる可能性があるため、最後の2ノードのタイは設計で回避できません。
pc.ignore_sb または手動ブートストラップのみがそれを乗り越えることができます。しかし、そこに行きたくはないでしょう。
これを考慮すると、重要なのはノード数ではなく、重み計算のバランスであるという事実を考えると、重みを使用することは補償するための正しい方法でしょうか?
さて、これは私の個人的な意見かもしれませんが、私の経験では、重みはクラスタの管理をより困難にし、それらが追加する安定性は狭いです。
重み2のノードは、常に一緒に失敗する2つのノードのように機能します。 重み2,1,1,1の4ノードは、2つのノードが1つのボックスを共有する5ノードクラスタのように動作します。
スプリットブレインのタイを、単一の運命のポイントと交換します。
- 利点: クリーンな2|2分割は、重いノードを持つ側が常に勝者となります。
- 損失: 重いノードともう1つを失うと致命的です。過度の重み付けはそれを悪化させます。重み3の場合、そのノードだけを失うとタイが発生します。
耐えられる障害のセットは、増加するのではなくシフトします。依然として1つの任意の障害といくつかの特定の分割にしか耐えられません。
日々の運用に重みが追加するもの:
- ノードはもはや等しくありません。 全員が「特別な」ノードを知っている必要があります。ランブック、監視、オンコールでの決定はそのノードに依存します。
- メンテナンス順序が重要です。 重いノードをクリーンにシャットダウンして、その重みがどちらの側にもカウントされないようにします。
メンテナンス中に別のノードでクラッシュした場合、クラスタが停止する可能性があります。それをパッチ適用または再起動するには、まずその重みを別のノードに移動する必要がある場合があります。これは忘れがちなステップです。 - 重みは設定であり、ドリフトする可能性があります。 設定ファイル、再構築、ノード交換全体で一貫している必要があります。デフォルトのw=1で復帰した再構築ノードは、クォーラムの計算を静かに変更します。
- タイブレーカーサイトは固定です。 2つのデータセンターでは、重み付けされた側が常に勝ちます。これは、一方のDCに3ノード、もう一方に2ノードを配置するのと変わりません。どちらの場合も、そのDCを失うとクラスタは停止します。
- 縮小すると依然として破損します。 障害の後、PCは変更されるため、4ノード用に調整されたセットアップは3または2でタイになる可能性があります。
同じ目標に対する最も単純なものから最も複雑なものまで:
- 等しい重みの奇数個のノード: 対称的で、管理する特別なものはありません。
- 偶数個のノードとGalera Arbitrator(garbd): データノードは等しく保たれ、アービターがタイブレーカーの投票を保持します。第3サイトで実行される場合、クラスタはどちらかのメインサイトの損失を生き残ります。これは重みだけでは達成できません。
- 重みを持つ偶数個のノード: これは、ノードまたはアービターを追加できず、片方が常に分割で勝つことを意図的に望む場合にのみ使用してください。
重みはクラスタを一般的に安定させず、運用上の複雑さを追加します。それらは、偶数ノード数に対する修正としてではなく、意図的なタイブレーカーとして意味があります。
結論
私は、常にKISS(Keep It Simple and Straightforward)のモットーを支持します。
PXCクラスタを3ノード以上にすることは、非常にまれなケースであり、読み取りをスケールする場合、または5ノードクラスタで同時に2ノードをシャットダウンする計画がある場合にのみ意味があります。
ノードの増加や重みの使用がもたらす重大な複雑さを考えると、健全な精神状態の人がわざわざ問題を探す理由があるとは思いません。
できるからといって、必ずしも「やるべき」ではありません。特に、得られるものが最小限で、複雑さが増す場合はなおさらです。
自分自身に親切にしてください。クラスタを最小限、本当に必要なものに保ち、無理に引き伸ばさないでください。そうすれば、悲惨な夜をクラスタリカバリや、さらに悪いデータ整合性の作業で過ごすことから自分自身を救うことができます。
皆さんに素晴らしいMySQLライフを。