Rampart: ブラウザネイティブ・オンデバイスPII（個人識別情報）検閲システム

チャットボットに入力する際、意図せず自分自身について多くの情報を明らかにしてしまうことがあります。メールを整理するよう依頼すれば、あなたの名前と同僚の名前が; 医療費の請求に関する質問をすれば、あなたの住所と口座番号が; 不満を吐露すれば、それが誰で、どこに住んでいるかが明らかになります。そして、入力した内容はあなたのもとに留まらず、あなたが検査する手段を持たないリモートサーバーに送られます。 私たちの中心的な設計原則は、プライベートであると確実に言える個人情報は、デバイスから決して離れない情報だけであるということです。 本日、私たちはRampartをオープンソース化しました。これは、個人情報がデバイスから決して離れないことを保証するための強力な第一線となる、第一世代のオンデバイス個人情報フィルタリングシステムです。Rampartは、SSNやID番号を捕捉するための正規表現に基づく決定論的レイヤーと、氏名や番地を捕捉するためのMiniLMの組み合わせです。 Rampartを構築した理由 PII（個人識別情報）の除去を行う場合、リモートサーバーを信頼するか、クライアントにバイナリをダウンロードするかのどちらかになりがちですが、これらにはいくつかの重要な課題があります。 1. AIのプライバシー保証は検証がほぼ不可能である。第一原理から、AIベンダーのプライバシーとセキュリティに関する主張を検証することは不可能です。AIランタイムの新たにデプロイされたバージョンは、誤って機密性の高いユーザー情報をログに記録し始める可能性があり、サービスにはゼロデイ脆弱性や内部脅威などの未知の内部セキュリティリスクが伴います。 2. PII除去のためのほとんどのモデルは巨大であり、それらから恩恵を受けられるユーザーのグループを狭めます。例えば、OpenAI Privacy Filterは約2.8GBであり、比較的遅い接続（10mbps）ではブラウザへのダウンロードに約38分かかります。 仕組み すべてはブラウザ内で、メッセージを入力してから送信するまでの瞬間に発生します。サーバーはループに含まれません。 モデルサイズ（トークナイザーを含む） 14.7MB p50 ランタイムレイテンシ（ブラウザ内、WebGPU） 3.9ms プライベートタームのリコール（7言語） 98.4% メッセージがどこかに送信される前に、2人のリーダーがデバイス上でメッセージを確認します。 最初の一つはルールのセットです。正規表現と実際の検証を組み合わせることで、構造化された情報（社会保障番号、クレジットカード、電話番号、ルーティング番号と口座番号、メールアドレス、IPアドレス、政府発行ID）を処理します。これは決定論的で高速です。 二つ目は、小さな言語モデルです。ルールではすべての氏名や番地を予測することはできないため、MiniLMは文脈をより深く理解して個人情報を読み取り、特定のカテゴリ内の情報があればそれを検閲します。 例えば、個人情報でいっぱいの文をチャットに入力したとします。 RampartはオンデバイスでPIIを検閲するため、デバイスから離れる必要はありません。 ブラウザは関連するPIIを一時的にデバイスに保存して、空白を埋めます。 メッセージの例: オリジナル: 私の名前はマリア・ガルシア、社会保障番号は123-45-6789で、月収は1,950ドルです。手頃な価格の住宅を見つけるのを手伝ってもらえませんか？ 検閲後: 私の名前は[GIVEN_NAME] [SURNAME]、社会保障番号は[SSN]で、月収は1,950ドルです。手頃な価格の住宅を見つけるのを手伝ってもらえませんか？ ベンチマーク Rampartは、AI4PrivacyのOpenPII 1.5Mデータセットと、意図的に乱雑なチャットスタイルの入力で17のエンティティタイプすべてを強化する合成ジェネレーターでトレーニングされました。以下のヘッドライン番号は、7つのラテン文字言語にまたがる30,000行のホールドアウトされたOpenPIIスライスから得られたもので、出荷されたパイプラインによってエンドツーエンドでスコアリングされています。 Rampart 決定論的 + モデル · 14.7 MB 98.42% OpenAI Privacy Filter↗(opens in new tab) モデル · ~2.8 GB 97.4% GLiNER small v2.1 モデル · ~600 MB 94.2% Community BERT-small PII モデル · ~29 MB 81.5% Microsoft Presidio 決定論的 + モデル · ~13 MB 65% AWS Bedrock Guardrails モデル · Cloud 63.8% 7つのサポート言語にわたる30,000行のホールドアウトされたOpenPIIテストセットでのプライベートタームのリコール。高いほど良い。ベンチマーク↗(opens in new tab) 制限事項 Rampartはアルファ版の製品であり、AIチャットエクスペリエンスのための個人識別情報の管理をより徹底的に行うための第一線となることを意図しています。現在、英語、スペイン語、フランス語、ドイツ語、イタリア語、ポルトガル語、オランダ語をサポートしています。 始め方 HuggingFaceでモデルをダウンロードするか、NPMライブラリをインストールするか、ホワイトペーパーをお読みください。 アメリカ人のためのエレガントで有用なツールの構築という仕事があなたに響くなら、NDS.chatへの参加を検討してください。 ```ts import { createGuard } from "@nationaldesignstudio/rampart"; const guard = await createGuard(); const safe = await guard.protect("My name is John Wick. I live at 88 Cedar Lane, Brookvale, CT 06482."); console.log(safe.text); // "My name is [GIVEN_NAME_1]. I live at [BUILDING_NUMBER_1] [STREET_NAME_1], Brookvale, CT 06482." const reply = await llm(safe.text); console.log(guard.reveal(reply)); // "Thanks John Wick, Brookvale CT 06482 works for eligibility." async function llm(text: string): Promise<string> { return "Thanks [GIVEN_NAME_1], Brookvale CT 06482 works for eligibility."; } ``` HuggingFace↗(opens in new tab) NPMライブラリ↗(opens in new tab) ホワイトペーパー↗(opens in new tab) The ElizaInwood, Manhattan | Affordable homes Sendero Verde East Harlem, Manhattan | Affordable homes