HN 日本語サマリー

← 一覧へ戻る
プログラミング

PostgresのLISTEN/NOTIFYは実際にスケーリングする

Postgres LISTEN/NOTIFY actually scales (dbos.dev)

348 pointsby KraftyOne65 コメント

要約

PostgresのLISTEN/NOTIFY機能は、グローバルロックに起因するスケーラビリティの問題で悪評がありますが、本記事ではこの問題を解決し、60K件/秒のスループットとミリ秒単位のレイテンシを実現する最適化手法を解説しています。通知のバッファリングとバッチ処理により、グローバルロックの競合を大幅に削減し、Postgresのパフォーマンスを最大限に引き出す方法を示しています。

全文翻訳

PostgresのLISTEN/NOTIFYは実際にスケールする

PostgresのLISTEN/NOTIFYは、そのスケーラビリティがないと主張する人気のブログ記事などにより、悪い評判を受けています。もしそれが事実なら、LISTEN/NOTIFYは低レイテンシで耐久性のある通知、ストリーム、Pub/SubにPostgresデータベースを使用できる強力なツールであるため、残念なことです。その指摘は間違っていません。NOTIFYは、グローバルロックの使用に起因する直感的で文書化されていないパフォーマンス特性を持っています。しかし、「直感的でない動作」は「スケールしない」ことと同じではありません。この記事では、適切な最適化を行うことで、LISTEN/NOTIFYがスケールして使用できることを示します。私たちは、LISTEN/NOTIFYベースのストリームの実装に焦点を当て、単一のPostgresサーバーでミリ秒単位のレイテンシで毎秒60K件の書き込みを達成します。

LISTEN/NOTIFYによる低レイテンシストリーミング

Postgresベースのストリームの基本的な設計はシンプルです。ストリームテーブルを作成し、各ストリームチャンク(例えば、LLM応答トークン)を新しい行として格納します。そして、テーブルに挿入することでストリームに書き込みます。

‍

[画像: workflow_id、key、offset、valueカラムを持ち、workflow_id、key、offsetをプライマリキーとするdbos.streamsテーブルのSQLスキーマ]

ストリームの読み取りが難しいのは、次のチャンクがいつ到着するか分からないためです。一つの解決策はポーリングです。各リーダーにストリームの末尾を新しいチャンクのためにポーリングさせます。しかし、ポーリングはスケールが悪いです。ポーリング間隔が高すぎると、インタラクティブなユースケース(例: オンラインチャット)にはレイテンシが高すぎます。しかし、ポーリング間隔が低すぎると、競合するポーラーがデータベースを圧倒します。

より良い解決策はLISTEN/NOTIFYです。これにより、リーダーは、新しいチャンクがストリームに発行されたというライターからの通知を待ってブロックできます。そのようにすれば、リーダーはポーリングにリソースを浪費せず、新しいストリームチャンクが到着したときにすぐに起動します。

LISTEN/NOTIFYベースのストリームの初期実装では、streamsテーブルのトリガーが、新しいストリームチャンクが書き込まれるたびに通知を送信する関数を発火させていました。リーダーはこれらの通知を待ち、新しいストリームチャンクを受け取るために起動しました。

[画像: dbos.streamsテーブルに行が挿入されるたびに、workflow IDとkeyを付けてpg_notifyを呼び出すstreamsトリガーのSQL]

この実装は正しく、低レイテンシを実現しましたが、スケールするとスループットが悪くなりました。大きなPostgresデータベースを使用しても、毎秒2.9K件のストリーム書き込みしか維持できませんでした。興味深いことに、Postgresのリソース(CPU、メモリ、IOPS)をほとんど消費せずにボトルネックとなりました。ご推測の通り、根本原因は元の「LISTEN/NOTIFYはスケーラブルではない」という問題でした。PostgresがNOTIFY中に取得するグローバルロックです。しかし、なぜPostgresはそれを行うのでしょうか?そして、Postgres通知の利点を失うことなく、それをどのように最適化できるのでしょうか?

[画像: トリガー通知ストリーミングのログスケールチャート:p50とp99のレイテンシは2,500 msgs/secまで約10〜30 msを維持し、その後2,900 msgs/sec付近で100 msを超えて急増します]

LISTEN/NOTIFYの排他ロック

問題を理解するために、PostgresのLISTEN/NOTIFYが実際にどのように機能するかを調べる必要があります。

パフォーマンスが低い根本原因は、PostgresではNOTIFYを呼び出すトランザクションをコミットする際に、グローバルな排他ロックを取得する必要があることです。このロックは、トランザクションがコミットを開始する際に取得され、トランザクションが完全にコミットされ、その内容がディスクにfsync()でフラッシュされるまで解放されません。

このロックは、Postgresが通知をトランザクションコミット順に送信することを保証するために必要です。これを強制するために、Postgresはすべての送信済み通知をグローバルな内部キューに格納し、その順序は通知を送信するトランザクションのコミット順と正確に一致する必要があります。このキューに通知を追加することは、コミットの一部としてトランザクション的に行う必要があります。しかし、Postgresはコミットが完了するまでトランザクションにコミット順を割り当てません。コミットは可変の時間かかる可能性があるためです。

これにより順序の問題が生じます。通知を含むトランザクションは、コミット順にキューに追加する必要がありますが、コミット順はコミットが完了するまで定義されません。解決策はグローバルロックであり、通知を含むトランザクションのコミットをシリアル化することで、コミット順が事前に定義され、内部通知キューで正しく順序付けできるようになります。

この排他ロックは、私たちが観察したパフォーマンスの低さを説明しています。streamsテーブルのトリガーからNOTIFYを呼び出すため、すべてのストリーム書き込みにはNOTIFYの呼び出しが含まれます。コミットするために、各ストリーム書き込みはグローバルロックを取得し、ディスクへのフラッシュを含むコミットの全期間保持する必要があります。これは、ストリーム書き込みが順番にコミットする必要があることを意味し、グループコミット(多くのトランザクションを単一のfsync()でまとめてコミットするなど)のようなPostgresの通常の最適化を妨げます。結果として、ストリーム書き込みはPostgresがトランザクションをコミットできる速度よりも速く完了することはできず、これがボトルネックとなります。これはまた、CPUやディスクのようなPostgresリソースの顕著な消費が見られなかった理由も説明しています。すべてのトランザクションがグローバルロックによってシリアル化されていたため、リソース消費はほとんどありませんでした。

余談ですが、この問題に関連するPostgresのパッチに関するオンラインでの議論がいくつかあります。このパッチ(Postgres 19でリリース予定)は、グローバルロックを削除したり、私たちが観察したボトルネックを修正したりするものではありません。むしろ、多数の通知チャネルがあり、各リスナーが特定のチャネルのみを待っているという、より限定的なケースを最適化するものです。

LISTEN/NOTIFYの最適化

LISTEN/NOTIFYベースのストリームを高速化するには、このボトルネックを回避する必要があります。重要な観察点は、ストリームやLISTEN/NOTIFYの他の多くのアプリケーションでは、通知自体が真実の源ではないということです。むしろ、それらは単にリーダーに新しいデータをチェックするためにデータベーステーブル(真実の源)をpingするだけです。その結果、通知はグローバルに順序付けられたり、完全に耐久性がある必要はありません。そのため、メモリ内で通知をバッファリングし、単一のバッチトランザクションで定期的にフラッシュすることでNOTIFYを最適化できます。これにより、グローバルロックの競合が大幅に減少します。

NOTIFYのバッファリングとバッチ処理は、ボトルネックを回避します。なぜなら、グローバルロックは各個別のストリーム書き込みごとではなく、バッファをフラッシュするときにのみ取得する必要があるからです。これは、個別のストリーム書き込みが高速に進み、グループコミットのようなPostgresの最適化を利用して高スループットを得られる一方で、バッファはバックグラウンドでフラッシュされることを意味します。

バッファを採用すると、新しい複雑さが生じます。それは、通知がバッファリングされている間にプロセスがクラッシュすると、それらの通知が決して配信されないということです。この問題を解決するために、ストリームリーダーにフォールバックを追加します。通知を待つことに加えて、通知なしでストリームが書き込まれたかどうかをチェックするために、データベースを定期的にポーリングします。このポーリングの頻度は(配信されなかった通知のフォールバックとしてのみ使用されるため)低く設定でき、パフォーマンスに大きな影響を与えません。

この最適化されたソリューションのベンチマークでは、大幅に改善されたパフォーマンスが見られます。同時リーダーが存在する状況で、毎秒最大60K件のストリーム書き込み(以前の20倍)を実行でき、レイテンシは15〜100msを維持します。最大スループットでは、PostgresのCPUが完全に利用されており、データベースが競合でボトルネックになっているのではなく、実際に飽和していることを示しています。

[画像: バッチ通知ストリーミングのログスケールチャート:スループットは約60K msgs/secに達し、p50とp99のレイテンシは数十ミリ秒から約500ミリ秒および1秒に上昇します]

詳細はこちら

すべてのベンチマークコードはGitHubで入手可能です: github.com/dbos-inc/dbos-postgres-benchmark

スケーラブルで信頼性の高いシステムの構築に興味があるなら、ぜひお声を聞かせてください。DBOSでは、Postgresベースの耐久性のある実行を可能な限りシンプルかつ高性能にすることを目指しています。ぜひチェックしてみてください: