Postgresトランザクションは分散システムのスーパーパワーである
Postgres transactions are a distributed systems superpower (dbos.dev)
要約
この記事では、ワークフローの状態とアプリケーションデータを同じPostgresデータベース内に共置することの利点を解説しています。これにより、単一のデータベーストランザクション内で両方を更新できるようになり、部分的な障害を防ぎ、冪等性や原子性といった分散システムにおける複雑な問題を簡素化できます。
全文翻訳
Postgresのトランザクションは分散システムのスーパーパワーである
数週間前、私たちは「耐久性のあるワークフローにはPostgresを使いましょう」と書きました。
その投稿は多くの議論を呼びましたが、誤解も生みました。私たちは、単に状態をPostgresに保存するワークフローエンジンを使うべきだと言いたかったのではありません。ワークフローシステムは、アプリケーションと同じPostgresデータベース内に存在し、しばしばそうすべきだと考えています。
一見すると、これは良い考えではないように思えます。それらの懸念は分離されるべきではないでしょうか?ワークフローの状態は一つのデータベースに、アプリケーションデータは別のデータベースに置かれるべきではないでしょうか?
そうではないかもしれません。
分散システムにおいて、共置(co-location)はスーパーパワーです。ワークフローメタデータとアプリケーションデータが同じPostgresデータベース内に存在する場合、それらは同じデータベーストランザクションで更新できます。これは、部分的な障害がもはや不可能になることを意味し、あらゆるエッジケースを正しく処理するワークフローを構築することがはるかに容易になります。
この記事では、それがなぜ可能であるか、そしてトランザクションが冪等性やアトミック性のような難しい問題をどのように簡素化できるかを説明します。
トランザクションステップによる冪等性
分散システムにおける一つの基本的な課題は、特にデータベース状態を変更する操作において、冪等性です。
耐久性のあるワークフローは、各ステップが完了した後にその結果をチェックポイントとして保存することで耐障害性を実現します。ワークフローが中断された場合、最初からではなく、最後にチェックポイントされたステップから再開します。しかし、ワークフローはステップを完了した後、チェックポイントを記録する前に中断される可能性があります。復旧したとき、そのステップが既に実行されたという記録がないため、再度実行してしまいます。
その結果、耐久性のあるワークフローだけでは冪等性の問題は解決しません。ワークフローエンジンは通常、重複した副作用なしに安全に再試行できるように、ステップが冪等であることを要求します。例えば、銀行口座に(お金を)加算するステップを考えてみましょう。これは冪等な操作ではありません。もしステップが口座に100ドルを追加し、失敗し、再度実行されてさらに100ドルを追加した場合、合計200ドルが口座に追加されてしまい、これは正しくありません。
最も一般的な解決策は、これを防ぐためにアプリケーションレベルのブックキーピングを追加することです。例えば、適用された支払いを追跡するための追加の applied_payments テーブルを追加し、それをトランザクションで更新し、二重に加算されないようにチェックすることができます。
-- application-level bookkeeping code example
CREATE TABLE applied_payments (
payment_id UUID PRIMARY KEY,
account_id INT,
amount DECIMAL,
applied_at TIMESTAMP WITH TIME ZONE DEFAULT NOW()
);
-- To credit an account:
BEGIN;
-- Check if this payment_id has already been applied
IF NOT EXISTS (SELECT 1 FROM applied_payments WHERE payment_id = $payment_id) THEN
-- Credit the account
UPDATE accounts SET balance = balance + $amount WHERE account_id = $account_id;
-- Record that this payment has been applied
INSERT INTO applied_payments (payment_id, account_id, amount)
VALUES ($payment_id, $account_id, $amount);
END IF;
COMMIT;
ワークフローの状態とアプリケーションデータが同じPostgresデータベース内に共置されている場合、この複雑さの多くを排除できます。データベーストランザクションがコミットされた後にステップをチェックポイントする代わりに、共置されたワークフローエンジンは、ステップのチェックポイントの書き込みとデータベース更新を同じトランザクションで実行できます。
これを行うために、ワークフローはワークフローエンジンによって提供されるデータベーストランザクションを使用してステップを実行します。ステップはデータベースの更新を実行し、ワークフローエンジンはチェックポイントを記録し、トランザクション全体がアトミックにコミットされます。
-- workflow idempotency code example
-- The workflow engine provides a transaction context
BEGIN;
-- The workflow step performs its database updates
UPDATE accounts SET balance = balance + $amount WHERE account_id = $account_id;
-- The workflow engine records the checkpoint
INSERT INTO workflow_checkpoints (workflow_id, step_id, status)
VALUES ($workflow_id, $step_id, 'completed');
COMMIT;
データベース操作とチェックポイントの書き込みを同じトランザクションの一部にすることで、ワークフローエンジンはExactly-once(一度だけ実行)の実行セマンティクスをトランザクションステップに提供できます。
- トランザクションがコミットされた場合、データベースの更新とチェックポイントの両方が耐久性をもって記録され、ステップが二度と実行されないことが保証されます。
- コミット前に何らかの障害が発生した場合、データベースの更新とチェックポイントの両方を含むトランザクション全体がロールバックされます。ワークフローが復旧したとき、安全にステップを最初から再実行します。
これにより、対応するチェックポイントなしでデータベース更新が成功する可能性のあるウィンドウがなくなります。結果として、トランザクションステップはアプリケーションレベルの冪等性ロジックやブックキーピングテーブルを必要としなくなります。データベース操作は、一度だけ実行されてチェックポイントされるか、全く実行されないかのどちらかです。
トランザクションアウトボックスタターンによるアトミック性
分散システムにおけるもう一つの古典的な課題は、複数のシステムでの更新を確実に実行することです。例えば、データベースレコードを更新し、別のシステムに通知を送信することなどです。これは、操作がアトミックである必要があるため、考えているよりも複雑です。つまり、障害(プロセスのクラッシュやネットワークのグリッチなど)が発生した場合でも、両方が実行されるか、どちらも実行されないかのどちらかです。
例えば、顧客が新しい注文を送信するたびに、倉庫に配送するために注文を送信するワークフローを開始したい場合があります。アトミック性がないと、データベースとダウンストリームシステムは一貫性がなくなる可能性があります。注文がコミットされずに送信されるか、コミットされていない注文について倉庫に通知される可能性があります。
この問題に対する最も一般的な解決策は、トランザクションアウトボックスタターンです。アイデアは、データベースに新しい「アウトボックステーブル」を維持することです。アトミックな更新を実行する必要がある場合、単一のデータベーストランザクションを実行します。このトランザクションは次の両方を行います。
- データベースレコードを更新する
- 「アウトボックステーブル」にメッセージを書き込む
その後、別のバックグラウンドプロセスがアウトボックステーブルをポーリングし、そこにあるメッセージをターゲットシステムに配信します。
以下は、それがどのように見えるかの例です。
-- transactional outbox pattern SQL example
CREATE TABLE orders (
order_id UUID PRIMARY KEY,
customer_id INT,
order_date TIMESTAMP WITH TIME ZONE DEFAULT NOW()
);
CREATE TABLE order_outbox (
message_id UUID PRIMARY KEY,
order_id UUID,
payload JSONB,
sent_at TIMESTAMP WITH TIME ZONE
);
-- To process a new order:
BEGIN;
-- Update the order record
INSERT INTO orders (order_id, customer_id)
VALUES ($order_id, $customer_id);
-- Write a message to the outbox
INSERT INTO order_outbox (message_id, order_id, payload)
VALUES (gen_random_uuid(), $order_id, jsonb_build_object('type', 'new_order', 'order_details', ...));
COMMIT;
-- A separate process polls order_outbox and sends messages to the warehouse.
データベースレコードの更新とアウトボックステーブルへのメッセージの書き込みを1つのトランザクションで実行することは、アトミック性を保証します。両方のレコードが更新されるか、どちらも更新されないかのどちらかです。メッセージがアウトボックに書き込まれると、トランザクションがコミットされた後に障害が発生した場合でも、非同期に配信できます。
トランザクションアウトボックスタターンは広く使用されていますが、運用上の複雑さが増します。アウトボックをポーリングし、メッセージを配信し、再試行を処理し、障害を監視するためのインフラストラクチャが必要です。ワークフローエンジンが別のシステムである場合、データベースと同期がずれる可能性があります。実際には、不一致を解決するには、通知をダウンストリームシステムに送信せずにデータベースレコードが更新されたことを検出するための調整ジョブのような追加のインフラストラクチャが必要です。
データベースベースのワークフローを活用し、ワークフローの状態をアプリケーションデータと共置することで、このパターンを簡素化できます。手動でアウトボックステーブルと個別のポーリングプロセスを維持する代わりに、Postgresのユーザー定義関数(UDF)を使用して、アプリケーション更新と同じデータベーストランザクション内でワークフローをエンキューします。
-- DBOS transactional outbox pattern atomicity example
-- The enqueue_workflow UDF is defined in Postgres
-- It inserts a row into a workflow_queue table
BEGIN;
-- Update the application data
UPDATE orders SET status = 'processing' WHERE order_id = $order_id;
-- Enqueue the workflow within the same transaction
SELECT enqueue_workflow('fulfillment_workflow', $order_id, ...);
COMMIT;
-- A separate worker process dequeues and executes the workflow.
これは、トランザクションアウトボックスタターンと同じ原則に従って機能します。ワークフローは、その名前、キュー、および入力を格納するデータベース行として表されます。enqueue_workflow UDFは、ユーザーデータベース更新と同じトランザクション内でこの行を作成し、アトミック性を保証します。つまり、更新が完了してワークフローがエンキューされるか、どちらも発生しません。その後、ワーカーがワークフローをデキューして非同期に実行し、必要な操作を確実に実行します。
さらに詳しく
スケーラブルで信頼性の高いシステムを構築するのが好きなら、ぜひお話ししたいです。DBOSでは、Postgresベースの耐久性のある実行を可能な限りシンプルかつ高性能にすることを目指しています。ぜひご覧ください。
- クイックスタート: https://docs.dbos.dev/quickstart
- GitHub: https://github.com/dbos-inc
- Discordコミュニティ: https://discord.gg/eMUHrvbu67