Memora: 抽象化と具体性のバランスを取る調和的なメモリ表現
Memora: A Harmonic Memory Representation Balancing Abstraction and Specificity (microsoft.com)
要約
Microsoftの研究者らが発表したMemoraは、AIエージェントが長期的なタスクにおいて過去の対話や情報を効率的に記憶・検索できるようにする新しいメモリシステムです。これは、記憶の内容(リッチな情報)と検索方法(軽量な抽象化)を分離することで、抽象化と具体性のトレードオフを解消し、従来のシステムを大幅に上回る性能と効率を実現します。
全文翻訳
Memora: 抽象化と具体性のバランスを取る調和的なメモリ表現
[画像: 紫からピンクへのグラデーション背景に、ミニマルな白いアイコンが3つ並んでいます。左から順に、砂時計、円形のゲージ、スラッシュ付きの山括弧のペアです。]
一目でわかること
- 現在のAIエージェントは過去のやり取りを記憶できません。関連情報を繰り返し入力するか、外部ソースから取得する必要がありますが、これは長くて複雑なタスクになるほど非効率になります。エージェントの能力をスケールさせるには、時間とともに情報を保持しアクセスするための、より効率的な方法が必要です。
- Memoraは、保存される内容(リッチなメモリコンテンツ)と取得方法(軽量な抽象化とキューアンカー)を分離することで、抽象化と具体性のバランスを取り、長期間のタスクにおけるエージェントの生産性を劇的に向上させるスケーラブルなメモリシステムです。
- Memoraは、LoCoMoおよびLongMemEvalで新しい最先端(state-of-the-art)の性能を達成し、Mem0、RAG、フルコンテキスト推論を上回りながら、最大98%少ないコンテキストトークンを使用します。
- Memora論文(新規タブで開く)がICML 2026で発表されました。Memoraのコードはhttps://github.com/microsoft/Memora(新規タブで開く)で入手可能です。
数ヶ月にわたるプロジェクトを支援する職場のAIアシスタントを想像してみてください。数週間にわたる会話の中で、あなたは制約事項を共有し、マイルストーンに合意し、締め切りを修正し、数十のステークホルダーの好みを表面化させます。後で同僚へのアップデートドラフトを依頼したとき、それは最新の決定だけでなく、そこに至るまでの道のり、つまり、何を試したか、何を却下したか、誰が意見を述べたかを思い出すべきです。今日のAIエージェントはこれに苦労しています。最新の大規模言語モデル(LLM)は強力な推論能力を持っていますが、実質的にステートレスです。セッションごとにゼロから始まり、長い会話ごとにモデルは履歴全体を再読する必要があり、新しい情報は生のテキストとして(断片的でノイズが多い)保存されるか、曖昧な要約に圧縮される(正確な詳細が失われる)かのどちらかです。AIアシスタントや自律エージェントが、数ヶ月にわたってプロジェクトを追跡するコパイロットや、長期間の使用でドメイン知識を蓄積するリサーチエージェントのような、長期間のデプロイメントに進むにつれて、原則に基づいたメモリシステムの欠如がクリティカルなボトルネックとなっています。
このギャップを埋めるための研究が進んでいます。Mem0のようなシステムは会話からアトミックな事実を抽出します。検索拡張生成(RAG)アプローチは、後で呼び出すために生のテキスト断片をインデックス化します。ZepやGraphRAGのようなグラフベースのメモリシステムは、エンティティ関係を通じて構造を課します。それぞれが実際の進歩を表していますが、それぞれが同じ壁にぶつかります。既存のデザインは、具体性(詳細な情報を保持すること)と抽象化(メモリが成長するにつれて効率的に整理すること)の間で避けられないトレードオフを強制します。Memoraは、エージェントに両方を提供するために構築されています。
Memoraとは
Memoraは、長期間のAIエージェント向けに設計されたエージェント型メモリフレームワークです。Memoraの中心的な洞察は、保存される内容と取得方法を分離することです。メモリコンテンツは、プロジェクトのタイムライン、制約に関する複数ターンの議論など、リッチで表現力豊かなままであり、一方、別の軽量な構造的レイヤーがインデックス化と取得を処理します。その結果、スケーラブルなメモリシステムが生まれます。関連情報を安定したユニットに統合し、重要な場合には詳細な情報を表面化させ、エージェントがすべてを再読することなく自身の履歴をナビゲートできるようにします。標準的な長会話ベンチマークでは、Memoraはフルコンテキストに履歴全体をダンプした場合に消費されるトークンよりも最大98%少ないトークンを使用しながら、新しい最先端のパフォーマンスを達成します。
なぜこれが難しいのか:抽象化と具体性の緊張
既存のメモリシステムは2つの極端に陥ります。RAGやMem0のようなコンテンツ断片化システムは、抽出された事実やテキスト断片を直接埋め込みます。これは詳細を保持しますが、物語の一貫性を失う壊れやすく孤立したエントリを生成します。粗い抽象化システムは、経験をコンパクトな要約に圧縮します。これらは効率的ですが、要約はメモリをそもそも有用にする制約、エッジケース、数値の詳細を剥ぎ取ってしまいます。グラフベースのシステムはコンテンツの上に構造を追加しますが、取得のためにコンテンツ自体に依存しており、通常はドメインを横断して一般化しない厳格なオントロジーを必要とします。これらのいずれも、抽象化(メモリを効率的に保つ)と具体性(メモリに有用性を与える)の間の根本的な緊張を解決していません。
[画像: Memoraアーキテクチャの概要。マルチモーダルデータがセグメント化され、構造化されたメモリエントリーと暗黙的なメモリグラフに変換され、グループ相対学習で最適化されたポリシー駆動プロセスを通じて取得され、関連するエピソードメモリを返す様子を示しています。]
図1: Memoraのアーキテクチャ概要。
Memoraの仕組み
Memoraはこの緊張を調和的な組織化によって解決します。各メモリエントリーには2つのコンポーネントがあります。1つはプライマリ抽象化で、メモリが基本的に何についてのものであるかを捉える短いフレーズ(6〜8語)です。もう1つは、リッチなコンテンツ自体を保持するメモリ値です。重要なのは、プライマリ抽象化のみが類似性検索のために埋め込まれることです。値は、そのコンテンツ自体を通じて直接取得されることはありません。この分離により、進化するトピックに関する新しい情報が、部分的な重複の連鎖に断片化するのではなく、同じプライマリ抽象化の下で既存のメモリエントリーにマージされます。プライマリ抽象化を補完するものとして、キューアンカーがあります。これは、各メモリの値から抽出された短くコンテキストを意識したタグであり、同じメモリへの代替アクセスパスを提供します。これらは、柔軟で有機的に生成されたメタデータとして機能します。
これを具体的に説明しましょう。ユーザーが「デイブとサラはプロトタイプを4月1日、パイロットを5月2日、MVPを5月30日に延期することに同意した」と言ったとします。ナレッジグラフシステムは、定義済みのエンティティタイプとリレーションスキーマを必要とします:Person → agreed_on → Milestone → has_date → Date、そして新しいリレーションタイプはスキーマ拡張を必要とします。Memoraでは、プライマリ抽象化「Dave and Sarah agreed to update Project Orion timeline」が正規のアクセスポイントとして機能し、キューアンカー「Dave Project Orion update」、「Project Orion prototype schedule」、「Project Orion pilot timeline」などが代替取得パスを提供します。これらはすべて、オントロジーにコミットすることなく行われます。デイブの最近の貢献、プロトタイプスケジュールの遅延、またはパイロットのタイミングに関する後続のクエリは、すべて異なるキューを通じて同じ基盤となるメモリにルーティングでき、完全な詳細はメモリ値に保持されます。
この表現の上に、Memoraはメモリへのアクセスを能動的な推論プロセスとして扱うポリシー誘導リトリーバーを導入しています。一度にトップk個のセマンティックに類似したアイテムを返すのではなく、ポリシーリトリーバーはクエリを反復的に洗練し、キューアンカーを通じて拡張して類似していないが関連するメモリを表面化させ、停止するタイミングを決定します。これにより、エージェントは純粋なセマンティック検索が見逃す関連性の高い非ローカルコンテキストにナビゲートでき、人間が関連イベントを思い出すときのように、マルチホップ依存関係を追跡できます。取得ポリシーは、強力なLLMで手動でプロンプトするか、強化学習を通じてはるかに小さいモデルに蒸留することができます。
Microsoft Research StorY
[画像: アルミニウム缶の抽象的なティール調の画像。上から見たもので、薄い線で結ばれたフローチャート形状(長方形、角丸ノード、ひし形)のネットワークが重ねられています。]
OptiMind: システムが現場に meets the floor
中西部のある瓶詰工場での3ヶ月間のパイロットプロジェクトは、AIがチャットを超えて意思決定に進出したときに何が起こるかを示しています。そこでは制約が変化し、利害関係が現実になり、回答は確実でなければなりません。
結果
[画像: LLMジャッジ、F1、BLEUメトリックを使用して、メモリシステム間のLoCoMo全体スコアを比較する棒グラフ。Memora (P) は最高のLLMジャッジスコア(0.863)を達成し、次にMemora (S)(0.849)とフルコンテキスト(0.825)が続きます。Memoraのバリアントは、3つのメトリックすべてで他のメモリベースのアプローチを上回っています。]
図2: LoCoMoデータセットにおけるMemoraのパフォーマンス。
Memoraを2つの長コンテキストベンチマークで評価します。対話の平均が600ターンであるLoCoMoと、115,000トークンのコンテキストを持つLongMemEvalです。Memoraは両方で新しい最先端のパフォーマンスを達成します。LoCoMoで86.3%、LongMemEvalで87.4%のLLMジャッジ精度を達成し、RAG、Mem0、Nemori、Zep、LangMem、さらにはフルコンテキスト推論を上回ります。マルチホップ推論では、Memoraのキューアンカーを横断する能力が最大の利益をもたらすため、ギャップは最大です。効率性の物語も同様に印象的です。Memoraは、Mem0(344対651)の半分程度のメモリエントリーを会話ごとに保存し、フルコンテキスト推論と比較してトークン消費量を最大98%削減します。読むものが少なく、保存するものが少なく、より良い回答が得られます。
今後
Memoraのデザインは、ベンチマークパフォーマンスを超えた影響を持っています。私たちはこの作業を、ユーザーと長期的な協力を維持し、単一セッション内だけでなく、数ヶ月から数年にわたって組織的な知識を蓄積できるAIエージェントへの一歩と見なしています。この基盤の上に、私たちはいくつかの補完的な方向を追求しています。MemLoopは、メモリシステムが取得とタスクの失敗からどのように学習し、特定のメモリパイプラインのステージにエラーを帰属させ、時間とともに自己改善できるかを模索します。Deferred Memoryは、保存されるべきものを早期に決定するのではなく、十分なコンテキスト、証拠、または将来の有用性が利用可能になるまでメモリ構築をいつ延期すべきかを調査します。Group Memoryは、プロベナンス、アクセス境界、所有権、および機密コンテキストを維持しながら、知識がチームやエージェント間でどのように共有できるかを調査します。私たちは論文とともにコードを公開し、コミュニティがこの表現を基盤として構築し、AIエージェントがもはやステートレスでなくなったときに何が可能になるかを探求することを奨励します。
謝辞
Shantanu Dixit(リサーチフェロー)、Paramaguru Harimurugan(リサーチフェロー)、Rujia Wang、Victor Rühle、およびRobert Simに、このプロジェクトへの貢献に感謝いたします。