Show HN: Halo – AIエージェントのためのオープンソースで改ざん防止可能な実行時証拠
Show HN: Halo – open-source, tamper-evident runtime evidence for AI agents (github.com)
要約
Haloは、AIエージェントがデータにアクセスした際に、その活動内容を改ざん防止可能な形で記録するオープンソースプロジェクトです。エージェントの各アクション(ツール呼び出し、モデル呼び出し、データアクセスなど)を追跡し、ハッシュチェーンで保護された追記型ログに記録することで、エージェントの実行時における証拠の完全性を検証可能にします。
全文翻訳
皆さん、こんにちは。私はブライアンです。過去数年間、Vanta(YC W18)でスタートアップやエンタープライズのコンプライアンス対応を支援してきました。最近、エージェント中心の世界でそれがどのようなものになるかを探求し始めました。
Haloが解決する問題は、企業がベンダーからAIエージェントを購入し、自社のデータへのアクセス権を与えた際に、そのエージェントがデータで何をしたのかを確認する手段がないことです。ベンダーはオブザーバビリティダッシュボードや監査ログを提供しているかもしれませんが、それらは編集可能で、一方的なものです。SOC 2やISO 27001は企業の管理体制を監査しますが、ソフトウェアがエージェント化している場合、管理体制は予測性が低くなります。要するに:同じプロンプトをエージェントに50回与えると、50通りのわずかに異なるアクション/回答が得られます。そのため、エージェント中心の世界で監査する価値があるのは、実行時に何が起こったかだけです。
Haloは、エージェントの実行時証拠を生成するオープンソースプロジェクトです。これは、エージェントが行うすべてのアクション(ツール呼び出し、モデル呼び出し、データアクセスなど)を記録し、追記専用ログのエントリとなる小さなレコーダーです。ハッシュチェーンで保護されているため、誰でも再検証できます。
以下のコマンドを実行して、架空の例を確認してください。
uvx --from halo-record halo demo --serve
その後、.jsonlファイルの一行を削除してリロードすると、レポートが改ざんされたことを検出します。
独自のエージェントを接続するには、このPythonコードを実行します。
agent = trace(run_my_agent, profile="my-agent", log="audit.jsonl")
そして、これを使用して実際のレポートを生成し、顧客に提供します。
halo report audit.jsonl -o report.html
免責事項:これは完全性ではなく整合性を証明するものです(自己保持チェーンは何も編集されていないことを証明しますが、何も省略されていないことを証明するものではありません)。これを検出するには、ベンダー外の証人が必要であり、それが私が次に取り組んでいることです。
HaloはApache-2.0ライセンスで、実行時依存関係はゼロです。Pythonコードは約4,300行で、125個のテストがあります(TypeScriptがお好みであれば、こちらのリポジトリを参照してください:https://github.com/bkuan001/halo-record-ts)。
ぜひ試してみてください。フィードバックがあればお知らせください!