HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

埋め込みの普遍的ジオメトリの活用

Harnessing the Universal Geometry of Embeddings (arxiv.org)

12 pointsby ur-whale2 コメント

要約

本研究では、ペアデータ、エンコーダー、または定義済みのマッチセットなしに、テキスト埋め込みをあるベクトル空間から別のベクトル空間へ変換する初のメソッドを提案しています。この教師なしアプローチは、普遍的な潜在表現(プラトニック表現仮説で推測される普遍的な意味構造)との間で、任意の埋め込みを翻訳します。この翻訳は、異なるアーキテクチャ、パラメータ数、トレーニングデータセットを持つモデルペア間で高いコサイン類似性を達成します。埋め込みベクトルのみにアクセスできる攻撃者は、ベクトルデータベースのセキュリティに深刻な影響を与える可能性があり、基になるドキュメントに関する機密情報を抽出できます。

全文翻訳

コンピュータサイエンス > 機械学習 arXiv:2505.12540 (cs) [2025年5月18日提出 (v1), 2026年1月26日最終更新 (本バージョン, v4)] タイトル: Harnessing the Universal Geometry of Embeddings 著者: Rishi Jha, Collin Zhang, Vitaly Shmatikov, John X. Morris Rishi Jhaらによる"Harnessing the Universal Geometry of Embeddings"というタイトルの論文のPDFを表示 PDFを表示 HTML (実験的) 概要: 我々は、ペアデータ、エンコーダー、または定義済みのマッチセットなしに、テキスト埋め込みをあるベクトル空間から別のベクトル空間へ翻訳する最初の方法を導入します。我々の教師なしアプローチは、任意の埋め込みを普遍的な潜在表現(すなわち、プラトニック表現仮説によって推測される普遍的な意味構造)との間およびそれから翻訳します。我々の翻訳は、異なるアーキテクチャ、パラメータ数、およびトレーニングデータセットを持つモデルペア間で高いコサイン類似性を達成します。埋め込みベクトルのみにアクセスできる敵対者は、ベクトルデータベースのセキュリティに深刻な影響を与える可能性があり、分類や属性推論に十分な、基になるドキュメントに関する機密情報を抽出できます。 主題: 機械学習 (cs.LG) 引用: arXiv:2505.12540 [cs.LG] (またはこのバージョンについては arXiv:2505.12540v4 [cs.LG]) https://doi.org/10.48550/arXiv.2505.12540 詳細はこちらをご覧ください arXiv発行のDOI (DataCite経由) 投稿履歴: 送信者: Rishi Jha [メールを表示] [v1] 日, 2025年5月18日 20:37:07 UTC (3,179 KB) [v2] 火, 2025年5月20日 15:38:41 UTC (3,180 KB) [v3] 水, 2025年6月25日 21:04:02 UTC (2,407 KB) [v4] 月, 2026年1月26日 14:47:13 UTC (2,424 KB) 全文リンク: 論文にアクセス: Rishi Jhaらによる"Harnessing the Universal Geometry of Embeddings"というタイトルの論文のPDFを表示 PDFを表示 HTML (実験的) TeXソース ライセンスを表示 現在の閲覧コンテキスト: cs.LG < 前 | 次 > 新着 | 最近 | 2025-05 で閲覧するよう変更: cs 参考文献と引用: NASA ADS Google Scholar Semantic Scholar エクスポート BibTeX引用 読み込み中... BibTeX形式の引用 × 読み込み中... 提供データ: ブックマーク 書誌ツール 書誌および引用ツール 書誌エクスプローラー 書誌エクスプローラーを切り替える (エクスプローラーとは?) コネクテッドペーパー コネクテッドペーパーを切り替える (コネクテッドペーパーとは?) Litmaps Litmapsを切り替える scite.ai sciteスマート引用を切り替える (スマート引用とは?) コード、データ、メディア: この論文に関連するコード、データ、メディア alphaXiv alphaXivを切り替える (alphaXivとは?) コードへのリンク: CatalyzeX 論文のコードファインダー (CatalyzeXとは?) DagsHub DagsHubを切り替える GotitPub GotitPubを切り替える Huggingface Hugging Faceを切り替える (Hugging Faceとは?) サイエンスキャスト サイエンスキャストを切り替える (サイエンスキャストとは?) デモ: デモ Replicate Replicateを切り替える (Replicateとは?) Spaces Hugging Face Spacesを切り替える (Spacesとは?) Spaces TXYZ.AIを切り替える (TXYZ.AIとは?) 関連論文: レコメンダーと検索ツール 影響力フラワーへのリンク 影響力フラワー (影響力フラワーとは?) COREレコメンダー COREレコメンダーを切り替える (COREレコメンダーとは?) IArxivレコメンダー IArxivレコメンダーを切り替える (IArxivレコメンダーとは?) 著者 会場 機関 トピック arXivLabsについて: arXivLabs: コミュニティ協力者との実験的プロジェクト arXivLabsは、協力者がarXivの新しい機能を直接ウェブサイト上で開発・共有できるフレームワークです。arXivLabsと協力する個人および組織は、オープンさ、コミュニティ、卓越性、ユーザーデータプライバシーという我々の価値観を受け入れ、遵守しています。arXivはこの価値観にコミットしており、それらを遵守するパートナーのみと協力します。 arXivコミュニティに価値をもたらすプロジェクトのアイデアがありますか? arXivLabsについてもっと知る。 この論文の著者のうち、推薦者は誰ですか? | MathJaxを無効にする (MathJaxとは?)