AI・機械学習
Google EmbeddingGemma 2
Google EmbeddingGemma 2 (twitter.com)
要約
Google Gemmaは、軽量でマルチモーダルな埋め込みモデルであるEmbeddingGemma 2を発表しました。このモデルは、テキスト、コード、画像、動画、音声を単一の統一された埋め込み空間にマッピングし、オンデバイスでの利用に最適化されています。740Mパラメータ、モジュラーエンコーダー、柔軟な次元サイズ、8Kコンテキストウィンドウを備え、Apache 2.0ライセンスで提供されます。
全文翻訳
EmbeddingGemma 2を発表します!🚀
軽量でマルチモーダルな埋め込みモデルであるEmbeddingGemma 2は、テキスト、コード、画像、動画、音声を単一の統一された埋め込み空間にマッピングします。
オンデバイスでのユースケースに最適化されており、以下の特徴を備えています。
- モジュラーエンコーダーを備えた740Mパラメータのフォームファクター
- Matryoshka Representation Learning (MRL) による柔軟な次元サイズ (768dim-128dim)
- 8Kコンテキストウィンドウ (テキストのみのEmbeddingGemmaの4倍)
- 商用利用可能なApache 2.0ライセンス
EmbeddingGemma 2は、MTEB (Code) やMIEB (Lite) のようなベンチマークにおいて、サイズクラスで最高のパフォーマンスを提供します。
ローカルコードベースのインデックス作成、セマンティックコード検索、コーディングエージェントの検索に非常に適しており、コードパフォーマンスでShow moreを9.92ポイント上回る大幅な改善を実現しています。
詳細についてはブログ記事をお読みください。ドキュメントにアクセスして、今すぐ構築を始めましょう。
EmbeddingGemma 2: オープンで軽量なマルチモーダル埋め込みモデル
Gemmaでのハードワークに感謝します