1000億件以上のトランザクションを照合してAIの信頼性について学んだこと

1ヶ月以上前、私はカイロで開催されたAI Everything MEAで、2人の投資家と敏腕のテックジャーナリストと共に、AIにおける信頼性、透明性、説明責任について議論するパネルに参加しました。私はステージ上で唯一のオペレーター、つまり投資機会や実現可能性を評価する側ではなく、システムを構築する側でした。 私は、AIの信頼性が内部からどのように見えるかについて議論したいと思います。 会話を変えた質問 モデレーターのマイク・ブッチャーは、私が常に聞いている質問のバリエーションを尋ねました。「投資家はAI企業を評価する際に何を見るべきか？」投資家のパネルであるFlat6LabsのYehia Houry氏とEnza CapitalのAbdelrahman Hassan氏は、ガバナンスフレームワークと創業者への信頼性について思慮深い洞察を提供しました。 次は私の番でした。そして、私はSMS料金とそれが月間アクティブユーザー（MAU）のコンピューティングに与える影響についての話から始めることにしました。 私たちのような金融機関では、顧客は中央銀行が定める条件の下で毎月利息を得ます。各月の初めに、システムは期間のSMS通知料金をデビットし、同じ期間の利息収入を投稿します（条件が満たされた場合）。これらはシステム生成のトランザクションです。顧客は何もしませんでした。アプリを開いたわけでも、送金したわけでも、購入したわけでもありません。 しかし、「月間アクティブユーザー」の定義が「少なくとも1回のトランザクションを持つ顧客」である場合、それらの顧客はアクティブとして表示されます。何が起こるかというとこうです。マーケティング部門は、高い月間アクティブユーザー（MAU）を理事会に報告します。プロダクト部門は同じデータを見てもエンゲージメントが低いと判断します。なぜなら、本当にアクティブな顧客と実質的に休眠状態の顧客が混在しているため、平均トランザクション価値が低下しているからです。財務部門は全く異なる状況を見ています。なぜなら、彼らは収益を生み出す活動を追跡しており、どちらのトランザクションも収益を生み出さないからです。 3つのチーム。同じ基盤データ。3つの異なるストーリー。 （Claudeによって生成された画像） そして、AIにとって重要なのはこの部分です。もしあなたがこのデータの上にチャーン予測、信用スコアリング、またはパーソナライゼーションを構築した場合、AIはその混乱を引き継ぎます。それは、誰も合意していない定義に基づいた決定を下す、休眠状態の顧客を毎日トランザクションを行っているかのように扱います。それはモデルの問題ではありません。モデルはあなたが指示した通りに正確に動作しています。それはガバナンスの問題です。そして、それは「アクティブ」とは実際には何を意味するのか、という単純なことから始まります。 私がその話をしたとき、部屋の雰囲気が変わるのを感じました。劇的だったからではなく、聴衆の中にいるすべての創業者がそれを経験したか、あるいは現在それを経験している最中だったからです。 アーキテクチャにガバナンスが組み込まれた経緯 （Claudeによって生成された画像） Moniepointでは、ナイジェリアと英国の複数の事業体で1000億件以上のトランザクションを処理しています。私たちの照合システム、分析プラットフォーム、財務報告など、すべてが信頼できるデータに依存しています。しかし、私たちはガバナンス戦略から始めたわけではありません。制約から始めました。 ナイジェリアでは、ほとんどの銀行は私たちが処理するトランザクション量を処理できるAPIを持っていません（これは少し自慢話かもしれませんが、これが私たちの現実です）。そのため、銀行の明細書は手動で照合システムにアップロードする必要がありました。すぐに、それは信頼性の問題を生み出します。明細書をアップロードした人と承認した人が同じ人物であれば、検証がありません。そこで、私たちはメーカー・チェッカーシステムを構築しました。アップロード担当者は承認者になれません。 それはコンプライアンス上の決定ではありませんでした。それは運用上の必要性でした。しかし、それはその後に構築したすべてのものに引き継がれる原則を確立しました。 決済レポートは、銀行のトランザクションビューを私たちの内部記録と比較可能な形式に変換しますが、同じレベルのトレーサビリティを持っています。私たちのシステムがトランザクションを自動照合する際、一致だけでなく、どのパイプラインが決定を下したか、そしてそのパイプラインを誰が構築したかも記録します。データエンジニアがタグ付けロジックを作成し、そのロジックがあるトランザクションを特定のカテゴリに分類した場合、それを追跡できます。この結果は、このパイプライン、この人物によって構築された、このロジックを使用したことによって存在します。 Moniepointでは、すべてのトランザクションに完全な管理履歴があります。誰かがターミナルで支払いをした瞬間から、決済、照合、そして財務報告と分析のためのERPへの移行まで。私はそれをトランザクションの人生と考えています。RioPYの作曲における音符のように、打たれた瞬間から解決される瞬間まで、すべての振動は意図的です。1つのステージを削除すると、ハーモニーはノイズに崩壊します。 私たちは規制当局に言われたからこれを構築したわけではありません。ナイジェリアの銀行インフラが私たちに選択肢を与えなかったからです。そして今、世界がAIガバナンス、トレーサビリティ、説明責任、人間の監視を求めているので、私たちは順調に進んでいます。それは（単に）先見の明があったからではなく、制約が優れたアーキテクチャを強制したからです。 誰も話さないSQLの問題 成長中の組織では、データが人々の仕事の中心となる瞬間が必ず訪れます。Moniepointでは、その瞬間は財務チームが拡大したときに訪れました。誰もがデータから答えを必要としていました。デフォルトの解決策は明らかでした：SQLを学ぶこと。自分でクエリを書き、自分で数字を取得すること。そしてそれは機能しました。しばらくの間。 実際に起こったことは次のとおりです。 トレンドを分析し、戦略を形成し、主要な決定を下すために採用された専門家である財務担当者が、SQLクエリの作成、テーブル結合のトラブルシューティング、そして3つのテーブルのどれに正しい収益データが含まれているかを判断するために何時間も費やしていました。彼らは戦略的であるべきなのに、戦術的になっていました。さらに悪いことに、10人のアナリストが同じデータに対してわずかに異なるロジックで独自のクエリを作成し、わずかに異なる回答を得ていました。MAUの例と同じ断片化の問題が、チーム全体に広がっていました。 その時、私たちは答えは「全員にSQLを学ばせること」ではないと気づきました。答えは、データがすでに管理され、定義され、コードを書かずにアクセスできるレイヤーを構築することでした。 それが、財務チームのメンバーが「今月のエンティティごとの収益はいくらですか？」と平易な英語で尋ねて信頼できる回答を得られる、会話型分析インターフェースを構築する原動力となりました。しかし、そしてこれが私がステージで行った重要なポイントですが、私たちの会話型分析インターフェースが機能するのは、その下にガバナンスレイヤーが存在するからです。正準定義。データリネージ。共有語彙。 ガバナンスがなければ、会話型AIインターフェースは、悪いSQLをより速く書くだけのチャットボットにすぎません。ガバナンスはAIの機能ではありません。ガバナンスこそがAIを可能にするものなのです。 AIが実際に行っていること（そしてなぜガバナンスが必要なのか） （Claudeによって生成された画像） パネルディスカッション中に気づいたことの1つは、人々が「フィンテックにおけるAI」について話すとき、チャットボットや信用スコアリングモデルを想像しがちだということです。現実は、少なくとも私たちの世界では、よりインフラストラクチャ的で、あまり華やかではありません。 私たちのシステムは、毎日の数百万のトランザクションを自動的に照合し、内部記録と銀行データを照合します。それは例外を特定、分類し、多くの場合、人間の助けなしに解決します。自動化されたすべての照合は完全に監査可能です。意思決定パイプライン、ロジック、およびデータを記録します。これにより、不正確な照合を失敗したルールまたは特定のデータにまで遡って追跡できます。これは、不透明なAI出力に依存するのとは対照的です。 トレーサビリティにより、自動化を信頼できます。それがなければ、すべてのトランザクションをレビューする人間が必要になりますが、これは大規模では不可能です。それがあれば、人間は例外、つまりAIが不確実だとフラグを立てたケースをレビューします。同時に、自動化された決定は追跡可能で元に戻せるという信頼を保ちます。そして、同じ原則が下流にも拡張されます。私たちの収益および費用保証フレームワークは、トランザクションが正しく分類されているかどうか、および金額がエンティティ間で正しく流れているかどうかを継続的に検証します。