HN 日本語サマリー

← 一覧へ戻る
セキュリティ

Launch HN: Traceforce (YC S26) – AIアプリ向けの企業全体セキュリティ監視

Launch HN: Traceforce (YC S26) – Company-wide security monitoring for AI apps (news.ycombinator.com)

38 pointsby XiaHua18 コメント

要約

Traceforceは、ChatGPTやClaudeなどのAIアプリケーションを従業員のデバイス上で監視・制御するためのプラットフォームです。AIアプリの使用状況を可視化し、安全でない操作やセキュリティ侵害を早期に検出し防止することで、企業の情報セキュリティリスクを低減します。現在、1,000以上のデバイスで導入されており、AIの急速な普及に伴うセキュリティ課題への対応を目指しています。

全文翻訳

皆さん、こんにちは。Traceforce (https://www.traceforce.ai/) の創業者であるXiaとVarunです。Traceforceは、ChatGPT、ClaudeなどのAIアプリが、すべてのデバイス(ラップトップ、サンドボックス、仮想マシン)上で直接動作する様子を可視化・制御します。単にどのアプリが使用されているかだけでなく、MCP(Managed Connectivity Platform)を介して他のデータソースとどのように接続されているかも発見します。また、脆弱なMCPを検出するためのオープンソースの動的なMCPペネトレーションテストツール (https://github.com/traceforce/mcp-xray) も提供しています。

Traceforceの目的は以下の通りです。

  • 企業の従業員が、デバイス上で動作するAIソフトウェアが安全に動作していることを保証するための標準化された方法を提供する。
  • 企業のセキュリティチームに、社内デバイス上のAIソフトウェアの活動状況を可視化させ、危険な操作やセキュリティ侵害を可能な限り早期に検出し、防止できるようにする。

Traceforceの仕組み

  1. Traceforceは、軽量バイナリとブラウザ拡張機能として各デバイスにインストールされます。
  2. 30分以内に、デバイスはライブデータを企業プロファイルにアップロードし、ダッシュボード上に全社デバイスで実行されているすべてのAIエージェント/アプリを表示します。
  3. 企業のセキュリティ担当者は、すべてのエージェントの活動をリアルタイムで監視し、制御を実装し、セキュリティリスクが発生次第、即座にアラートを受け取ることができます。

デモ動画はこちらです: https://youtube.com/watch?v=IdK2WKg7kaM

Traceforceの着想は、XiaがスタートアップClumio(2024年10月にCommvaultに買収)でエンジニアリングディレクターを務めていた経験に由来します。チームメンバーがAIをどのように利用しているかを、彼らの作業を遅らせることなく監視できることは、Clumioでの最優先事項でした。50人以上のCISOやCIOと話した結果、これは現在、業界全体で非常に必要とされているソリューションであることが明らかになりました。新しいAI機能が非常に速く、広範囲に採用されているため、可視性と制御が追いつかないという声をよく耳にします。

Traceforceは、何を監視し、何を収集するかについて透明性を保っています。デフォルトでは、Traceforceはデバイス上で実行されているAIアプリケーション、MCP、およびツールのメタデータとテレメトリのみを収集します。セキュリティチームは、定義済みの高リスクまたは潜在的に破壊的なアクションを検出、警告、またはブロックする目的で、ツールコールを検査するオプションを有効にできます。すべてのコンテンツ検査はデバイス上でローカルに行われます。組織のセキュリティ管理者が明示的に設定しない限り、ユーザープロンプトは保存されません。

私たちは製品のエンドユーザーと緊密に協力しており、何を監視/共有しているかを理解してもらうと、デバイス上の強力な保護レイヤーがあり、セキュリティインシデントを防いでくれることに大きな安心感を得ています。これにより、彼らは何が水面下で漏洩したり侵害されたりしているのかを気にすることなく、自分の仕事に集中できるようになります。

TraceforceバイナリはGoで構築され、ブラウザ拡張機能はNode JSで記述されています。最も困難な部分は、AIアプリケーション、MCP、およびツールの間の完全な接続グラフを構築し、それらの接続によって導入される脆弱性と攻撃パスを特定することです。従来のセキュリティツールは不十分です。EDRはプロセスを可視化し、CASBはネットワークトラフィックを可視化しますが、どちらもAIアプリ内で発生するアプリケーションレベルのアクティビティを可視化できません。これを機能させるために、各アプリケーションの設定とログを理解しました。各アプリは異なり、AI機能は頻繁に変更されるため、これは骨の折れるプロセスです。

Traceforceは現在、10組織の1,000台以上のデバイスに展開されています。平均して、デバイスあたり15以上のAIアプリケーションを発見しており、各アプリケーションは5〜10のMCPに接続されています。顧客がMCP設定で公開された平文のシークレットを特定するのを支援し、AI生成コードを介したAPIキーの漏洩を防ぎ、「DROP TABLE」のような潜在的に破壊的なコマンドを実行する前に開発者に警告しました。私たちの「警告と確認」アプローチは特に好評で、開発者に自由を与えつつ、高価な間違いを避けるのに役立っています。

私たちは、AIコーディングアシスタント、ChatGPT、Claude、およびMCPを急速に採用している中小企業(従業員200人以上)のセキュリティ、IT、AIプラットフォームチームと協力したいと考えています。生産性向上のために人々がどのようなAIツールを使用しているかを理解するのに苦労している場合や、人々の作業を遅らせることなくAI関連のセキュリティリスクを軽減する実用的な方法が必要な場合は、ぜひお話しさせてください。

無料トライアルはhttps://www.traceforce.aiで開始できます。または、デモをスケジュールし、お客様の環境について話し合うために直接お問い合わせください。