AI・機械学習

JEPAを用いたプラトニック表現仮説の証明と改善

Proving and Improving the Platonic Representation Hypothesis with JEPAs (arxiv.org)

42 pointsby Anon842026年11月1日10 コメント

要約

本論文では、AIモデルが異なるモダリティから世界をどのように表現するかというプラトニック表現仮説（PRH）を定理化し、改善する手法を提案しています。Joint-Embedding Predictive Architectures（JEPAs）を用いることで、異なるモダリティで学習されたモデルが、適切な「良いビュー」のペアがあれば、単一の回転を除いて同じ表現に収束することを証明しました。また、従来の次世代トークン予測は「悪いビュー」を用いるため非効率的であることを示し、JEPAsがより少ないデータで高いアライメントを実現できることを実証しています。

全文翻訳

JEPAを用いたプラトニック表現仮説の証明と改善

arXiv:2610.39302 (cs)

[Submitted on 29 Oct 2026]

タイトル: JEPAを用いたプラトニック表現仮説の証明と改善

著者: Randall Balestriero, Yann LeCun

Proving and Improving the Platonic Representation Hypothesis with JEPAs というタイトルのPDFを表示します。著者: Randall Balestriero および他の著者1名

PDFを表示 HTML (実験的)

要旨: 学習されたモデルが異なるモダリティから世界を同じように表現するかどうかは、AIの中心的な問いです。プラトニック表現仮説（PRH）は、モデルがスケールアップするにつれてそうなるだろうと推測していますが、証明がないため、保証も処方箋も提供されません。私たちはこの仮説を定理に変えます。まず、我々はプラトニック表現定理を証明します。これは、任意の数のモダリティで個別に学習されたJoint-Embedding Predictive Architectures（JEPAs）は、その正のペアが1つのシーンの2つの観測--良いビュー--であり、それ以外の誤配置が制限されている場合、単一の回転を除いて同じ表現を学習することを示します。次に、次世代トークン予測は悪いビュー、つまり単一ドキュメントの一部を持つJEPAであり、これが言語モデルがスケールを通じてのみビジョンとアラインされる理由を説明します。第三に、145kのキャプションから940Mのウェブ画像のテキストまでの理論を検証し、アライメントのスケーリング則を発見して、シードノイズ内の未知の実行を予測します。良いビューは、同じコーパスでの次世代トークン予測と比較して、同じアライメントに到達するために42倍少ないトレーニングサンプルを必要とします。また、109MパラメータのテキストJEPAは、評価したすべての言語モデル（最大72Bパラメータ）やCLIPのテキストエンコーダーよりも、DINOv2およびCLIPの画像エンコーダーとより良くアラインされます。次世代トークン予測は、プラトニック表現への驚くほど非効率的なルートです。ショーケースとして、1つの回転で個別に学習されたエンコーダーを画像キャプショナー（COCOでCIDEr .838）に変換できます。その回転でさえペアは必要ありません。最新のペアフリーベンチマークでは、我々のテキストJEPAは、ImageNet-100のトップ5で最大56%に対して64%など、最大8Bパラメータの言語モデルで報告されているすべてのゼロショット精度を上回ります。したがって、プラトニック表現を構築するためのレバーは、スケールだけでなく、ポジティブビューです。


科目:	人工知能 (cs.AI); コンピュータビジョンとパターン認識 (cs.CV); 機械学習 (stat.ML)
引用:	arXiv:2610.39302 [cs.AI]
	(またはこのバージョンについては arXiv:2610.39302v1 [cs.AI])
	https://doi.org/10.48550/arXiv.2610.39302 DataCite経由のarXiv発行DOI