Memora: 抽象化と具体性のバランスを取る調和的なメモリ表現

概要 今日のAIエージェントは過去のやり取りを記憶しません。関連情報を繰り返し与えられるか、外部ソースから取得する必要がありますが、これはより長く複雑なタスクを処理するにつれて非効率になります。エージェントの能力を拡張するには、時間とともに情報を保持しアクセスするための、より効率的な方法が必要です。Memoraは、格納されるもの（リッチなメモリコンテンツ）と検索方法（軽量な抽象化とキューアンカー）を分離することで、抽象化と具体性のバランスを取り、長期タスクにおけるエージェントの生産性を劇的に向上させるスケーラブルなメモリシステムです。Memoraは、LoCoMoとLongMemEvalで新しい最先端の性能を達成し、最大98%少ないコンテキストトークンを使用しながら、Mem0、RAG、およびフルコンテキスト推論を上回っています。Memoraの論文（新しいタブで開く）はICML 2026で発表されました。Memoraのコードはhttps://github.com/microsoft/Memora（新しいタブで開く）で入手可能です。 数ヶ月にわたるプロジェクトを実行するのを手助けする職場のAIアシスタントを想像してみてください。数週間にわたる会話の中で、あなたは制約を共有し、マイルストーンに合意し、締め切りを修正し、多数のステークホルダーの好みを表面化させます。後で同僚へのアップデートの下書きを依頼したとき、それは最新の決定だけでなく、そこに至るまでの道のり、つまり何が試され、何が却下され、誰が意見を述べたかを思い出すべきです。今日のAIエージェントはこの点で苦労しています。最新の大規模言語モデル（LLM）は強力な推論能力を持っていますが、実質的にステートレスです。各セッションはゼロから始まり、各長時間の会話はモデルに履歴全体を再読させ、新しい情報は生のテキストとして（断片化されノイズが多い）保存されるか、曖昧な要約に圧縮される（正確な詳細が失われる）かのどちらかです。AIアシスタントや自律エージェントが、数ヶ月にわたってプロジェクトを追跡するコパイロットや、長期間の使用でドメイン知識を蓄積する研究エージェントなど、長期的な展開に進むにつれて、原則に基づいたメモリシステムの不在が重要なボトルネックとなっています。このギャップを埋めるための研究が活発に行われています。Mem0のようなシステムは会話から原子的な事実を抽出します。検索拡張（RAG）アプローチは、後で検索するために生のテキスト断片をインデックス化します。ZepやGraphRAGのようなグラフベースのメモリシステムは、エンティティ関係を通じて構造を課します。それぞれが実際の進歩を表していますが、それぞれが同じ壁に突き当たります。既存のデザインは、具体性（細部を保持すること）と抽象化（メモリが成長するにつれて効率的に整理すること）の間で避けられないトレードオフを強制します。Memoraは、エージェントに両方を与えるために構築されています。 Memoraとは何か Memoraは、長期的なAIエージェントのために設計されたエージェント型メモリフレームワークです。Memoraの中心的な洞察は、格納されるものと検索方法を分離することです。メモリコンテンツは、プロジェクトのタイムライン、制約に関する複数ターンの議論など、リッチで表現力豊かなままであり、別の軽量な構造レイヤーがインデックス化と検索を処理します。その結果、スケーラブルなメモリシステムが実現します。関連情報を安定した単位に統合し、必要に応じて細部を表面化し、エージェントがすべてを再読することなく自身の履歴をナビゲートできるようにします。標準的な長会話ベンチマークでは、Memoraは、履歴全体をコンテキストにダンプした場合に消費されるトークンよりも最大98%少ないトークンを使用しながら、新しい最先端の性能を達成しています。 なぜこれが難しいのか：抽象化と具体性の緊張 既存のメモリシステムは2つの極端に陥ります。RAGやMem0のようなコンテンツ断片化システムは、抽出された事実やテキスト断片を直接埋め込みます。これは詳細を保持しますが、物語の一貫性を失う脆く孤立したエントリを生成します。粗い抽象化システムは、経験をコンパクトな要約に圧縮します。これらは効率的ですが、要約は、メモリをそもそも有用にする制約、エッジケース、および数値の詳細を剥ぎ取ってしまいます。グラフベースのシステムはコンテンツの上に構造を追加しますが、検索のためにコンテンツ自体に依存しており、通常はドメインを横断して一般化しない厳格なオントロジーを必要とします。これらのいずれも、抽象化（メモリを効率的に保つ）と具体性（メモリに有用性を与える）の間の根本的な緊張を解決しません。 図1：Memoraのアーキテクチャ概要。 Memoraの仕組み Memoraはこの緊張を調和的な組織化によって解決します。各メモリエントリには2つのコンポーネントがあります。1つは、メモリが基本的に何についてのものであるかを捉える短いフレーズ（6〜8語）であるプライマリ抽象化、もう1つはリッチなコンテンツ自体を保持するメモリ値です。重要なのは、プライマリ抽象化のみが類似性検索のために埋め込まれるということです。値は、その自身のコンテンツを通じて直接取得されることはありません。この分離により、進化するトピックに関する新しい情報が、部分的な重複の連鎖として断片化されるのではなく、同じプライマリ抽象化の下の既存のメモリエントリにマージされます。プライマリ抽象化を補完するものとして、キューアンカーがあります。これは、各メモリの値から抽出された短くコンテキストを意識したタグであり、同じメモリへの代替アクセスパスを提供します。これらは柔軟で有機的に生成されたメタデータとして機能します。 これを具体的に説明しましょう。ユーザーが「デイブとサラは、プロトタイプを4月1日、パイロットを5月2日、MVPを5月30日に延期することに同意した」と言ったとします。知識グラフシステムは、事前定義されたエンティティタイプと関係スキーマを必要とします。Person → agreed_on → Milestone → has_date → Date、そして新しい関係タイプはスキーマ拡張を必要とします。Memoraでは、「デイブとサラによって合意されたプロジェクトOrionのタイムライン更新」というプライマリ抽象化が正規のアクセスポイントとして機能し、デイブ プロジェクトOrion 更新、プロジェクトOrion プロトタイプ スケジュール、プロジェクトOrion パイロット タイムラインのようなキューアンカーは、オントロジーにコミットすることなく、代替の検索パスを提供します。後でデイブの最近の貢献、プロトタイプのスケジュール、またはパイロットのタイミングに関するクエリは、すべて異なるキューを通じて同じ基盤となるメモリにルーティングでき、メモリ値には完全な詳細が保持されます。 この表現の上に、Memoraはメモリアクセスを能動的な推論プロセスとして扱うポリシー誘導型リトリーバーを導入します。一度にトップk個のセマンティックに類似したアイテムを返すのではなく、ポリシーリトリーバーはクエリを反復的に洗練し、キューアンカーを通じて拡張して関連するが類似していないメモリを表面化し、停止する時期を決定します。これにより、エージェントは、純粋なセマンティック検索が見逃す関連性の高い非ローカルコンテキストにナビゲートし、人間が関連イベントを思い出すときのように、マルチホップ依存関係を追跡できます。検索ポリシーは、強力なLLMで手動でプロンプトするか、強化学習を通じてはるかに小さいモデルに蒸留することができます。 Azure AI Foundry Labs Microsoft Researchのこれらの実験的な技術で、AIの将来の可能性の方向性を垣間見ることができます。Azure AI Foundry（新しいタブで開く） 結果 図2：LoCoMoデータセットでのMemoraのパフォーマンス。 私たちは、平均600ターンのダイアログを持つLoCoMoと、115,000トークンのコンテキストを持つLongMemEvalという2つの長コンテキストベンチマークでMemoraを評価します。Memoraは両方で新しい最先端のパフォーマンスを達成します。LoCoMoで86.3%、LongMemEvalで87.4%のLLMジャッジ精度を達成し、RAG、Mem0、Nemori、Zep、LangMem、さらにはフルコンテキスト推論を上回っています。ギャップはマルチホップ推論で最大であり、Memoraのキューアンカーを横断する能力が最大の利益をもたらします。効率性の話も同様に顕著です。Memoraは、会話あたりMem0の約半分のメモリエントリ（344対651）を格納し、フルコンテキスト推論と比較してトークン消費を最大98%削減します。読む量が少なく、保存量が少なく、より良い回答が得られます。 今後の展望 Memoraのデザインは、ベンチマークパフォーマンスを超えた意味合いを持っています。私たちはこの作業を、ユーザーとの長期的な協力を維持し、単一セッション内だけでなく、数ヶ月および数年にわたって組織的な知識を蓄積できるAIエージェントへの一歩と見なしています。この基盤に基づいて、私たちはいくつかの補完的な方向性を追求しています。MemLoopは、メモリシステムが検索やタスクの失敗からどのように学習できるか、エラーをメモリパイプラインの特定のステージに帰属させ、改善する方法を探求しています。