FoundationDB の Flow – C++11 にアクターベースの並行処理をもたらす
FoundationDB's Flow – Bringing Actor-Based Concurrency to C++11 (apple.github.io)
要約
FoundationDB の開発チームは、高性能とスケーラビリティの両立という課題に直面し、C++11 でアクターベースの並行処理を実現する新しい言語「Flow」を開発しました。Flow は、非同期関数(アクター)をコンパイル時に C++11 コードに変換し、コールバックを使用してブロッキングを回避します。これにより、効率的な並行処理、高い生産性、そして信頼性の高いシミュレーションが可能になります。
全文翻訳
Flow
エンジニアリングの課題
FoundationDBは、ノードあたりの高いパフォーマンスとスケーラビリティという野心的な目標を持って始まりました。これらの目標を達成するには、FoundationDBコアの開発中に深刻なエンジニアリング上の課題に直面することを認識していました。効率的な非同期通信プロセス、C++の速度とI/O効率、そして大規模クラスタでの信頼性と耐障害性を確保するための広範なシミュレーションが必要でした。
Flowは、これらのプロセスのための非同期ランタイムを提供します。FoundationDBは、FlowのFuture、Stream、協調的スケジューリングとともに標準的なC++コルーチンを使用します。C++コンパイラは、各コルーチンの実行状態をサスペンションポイントをまたいで保持し、Flowはawaitされた操作をイベントループに接続します。同じランタイムが、物理インターフェースや障害モードを含むシステムの決定論的シミュレーションをサポートします。
Flowは、以下の3つの主要なエンジニアリング目標をサポートします。
- ネイティブコードによる高性能化
- コルーチンとメッセージパッシングによる非同期並行性
- テストのためのシミュレーションサポート
初めての概観
コルーチンは、Futureを介して非同期結果を受け取ります。コルーチンが結果を必要とする場合、イベントループ上の他の作業をブロックすることなくサスペンドできます。この関数は整数を待ち、オフセットを加算して合計を返します。
#include "flow/flow.h"
Future<int> asyncAdd(Future<int> f, int offset) {
int value = co_await f;
co_return value + offset;
}
Future<T>を返すコルーチンは、呼び出されるとすぐに開始され、完了するか、準備ができていない操作をawaitするまで実行されます。返されるFutureは、最終的な結果を表します。コルーチンコードは、通常の.cppおよび.hファイルに記述されます。
Flowの機能
Promise<T>とFuture<T>
Promise<T>とFuture<T>は、非同期送信者と受信者を接続します。Promiseは、型Tの値またはエラーを1つ配信できます。Futureは、そのホルダーにその結果を観測させます。Futureは複数のホルダーを持つことができます。
これらはローカルプロセスハンドルです。FoundationDBのRPCレイヤーは、ネットワークリクエストとリプライのためにRequestStream<T>とReplyPromise<T>を使用します。リクエストは別のプロセスにReply Promiseを渡すことができ、そこでリプライを送信すると、呼び出し元のFutureが準備完了になります。
co_awaitとco_return
co_awaitは、イベントループをブロックせずにFutureを待ちます。準備完了のFutureをawaitするとすぐに実行が続行されます。そうでない場合、コルーチンは準備完了になるまでサスペンドします。Futureにエラーが含まれている場合、それをawaitするとそのErrorがスローされます。
Future<T>を返すコルーチンは、co_return value;で完了します。Future<Void>の場合は、ペイロードなしで完了を通知するためにco_return;を使用します。Future<Void>をawaitしても、代入する値は生成されません。
ローカル変数と所有権
ローカル変数は通常のC++のスコープ規則に従い、スコープがアクティブな間はサスペンションをまたいで生存します。値パラメータはコルーチンフレームに格納されます。参照、ポインタ、およびStringRefのようなビューは、参照先や基になるストレージのライフタイムを延長しません。コルーチンがオブジェクトまたはそのバイトを保持する必要がある場合は、Reference<T>やStandalone<T>のような所有型を使用してください。
PromiseStream<T>とFutureStream<T>
PromiseStream<T>とFutureStream<T>は、一連の非同期メッセージを表します。FutureStream<T>をawaitすると、次の値が消費されます。アイテムがすでにキューイングされている場合、サスペンションなしで実行が続行されます。
Future<Void> forwardWithOffset(FutureStream<int> input,
PromiseStream<int> output,
int offset) {
while (true) {
int value = co_await input;
output.send(value + offset);
}
}
複数の入力の待機
flow/CoroUtils.hのrace()は、最初に準備完了になった入力を待ちます。これは、勝った引数に対応するインデックスを持つstd::variantを返します。入力はFutureまたはStreamにでき、勝ったStreamは1つのアイテムを消費します。複数の入力がすでに準備完了の場合、最も低い引数インデックスが勝ちます。エラーは勝った入力から伝播します。
負けた入力はレースからデタッチされ、明示的にキャンセルされません。レースの解放が最後のFuture参照をドロップすると、それらはまだキャンセルされる可能性があります。操作がレースに負けた後も継続する必要がある場合は、Futureを別途保持してください。完了した非Stream Futureは準備完了のままなので、処理後にそれを置き換えるか、繰り返しレースから削除してください。
例:サーバーインターフェース
このローカルサーバーは、非同期メッセージに応答してカウントを維持します。リクエストタイプごとに1つのPromiseStreamを持ち、それらのStreamをループでレースします。現在のカウントのリクエストは、サーバーが応答するためのPromise<int>を運びます。ネットワークインターフェースは、上記で説明したRPCタイプを使用し、シリアライゼーションも必要とします。
#include "flow/CoroUtils.h"
struct CountingServerInterface {
PromiseStream<int> addCount;
PromiseStream<int> subtractCount;
PromiseStream<Promise<int>> getCount;
};
Future<Void> serveCountingServerInterface(CountingServerInterface csi) {
int count = 0;
while (true) {
auto request = co_await race(csi.addCount.getFuture(),
csi.subtractCount.getFuture(),
csi.getCount.getFuture());
switch (request.index()) {
case 0:
count += std::get<0>(request);
break;
case 1:
count -= std::get<1>(request);
break;
case 2:
std::get<2>(request).send(count);
break;
}
}
}
呼び出し元は、サーバーが必要な間、返されたFuture<Void>をアクティブに保つ必要があります。ローカルのcountは、各サスペンションをまたいで生存します。
キャンセルとライフタイムの落とし穴
デフォルトでは、保留中のコルーチンの返されたFutureへの最後の参照をドロップすると、それがキャンセルされます。明示的なFuture::cancel()もキャンセルを要求します。サスペンドされたコルーチンは、awaitからactor_cancelledをスローして再開します。ローカルオブジェクトは、スコープが巻き戻されるときに破棄されます。作業を継続する必要がある場合は、Futureをアクティブに保つか、直接awaitしてください。
エラーおよびリトライハンドラは、必要な同期クリーンアップの後でactor_cancelledを伝播する必要があります。呼び出し元の契約が明示的に処理しない限り、broken_promiseやその他のエラーをサイレントに飲み込まないでください。C++では、catchハンドラ内でco_awaitすることは許可されていません。エラーを保存し、ハンドラを離れた後に非同期回復をawaitしてください。
コルーチンラムダ内のキャプチャはラムダのクロージャに属し、コルーチンがサスペンド中に破棄される可能性があります。開始した呼び出しよりも長く存続する可能性のある作業については、明示的な値パラメータを持つ名前付きコルーチンを優先してください。
さらに詳しい例については、Flowチュートリアル、コルーチン設計ガイド、および実行可能なコルーチンチュートリアルを参照してください。