はじめに

こんにちは、フクナガです。
今回は、AWS re:Invent 2025 にて現地参加させていただいたセッション「Beyond a Chatbot: How to Build Intelligent Agent Memory (sponsored by MongoDB)」についてレポートさせていただきます！

セッション概要

タイトル：Beyond a Chatbot: How to Build Intelligent Agent Memory (sponsored by MongoDB)

登壇者

Mikiko Bazeley, Staff Developer Advocate, MongoDB

形式

本セッションは「Breakout session」という形式で、アーカイブ視聴が可能なセッションとなっております。
YouTube – AWS re:Invent 2025 – Beyond a Chatbot: How to Build Intelligent Agent Memory (AIM284)

英語セッションなので、後からゆっくり復習できる Breakout session は理解度を深めるという点で非常に良いですね。

ちなみに、同様の内容が MongoDB のブログでも公開されていたので、記事の方が読みやすい場合はこちらがおすすめです。
Why Multi-Agent Systems Need Memory Engineering
※完全に一緒の内容ではありません

セッションに関する紹介文

ステートレスなLLMだけでは十分ではありません。学習し、記憶し、進化するアプリケーションを構築する時が来ました。このセッションでは、洗練されたエージェントメモリシステムのアーキテクチャを深く掘り下げます。単純なコンテキストウィンドウから、真のインテリジェンスを可能にする統合メモリプロバイダーへの移行方法をお見せします。エピソード記憶、意味記憶、手続き記憶といった異なるタイプのメモリについて学び、MongoDBがそれらすべてにとって単一のデータプラットフォームとなる方法を理解できます。この発表は、AWSパートナーであるMongoDBによって提供されています。（日本語訳）
出典：AWS re:Invent 公式

セッション会場の様子

セッションの注目ポイント

セッションの中で個人的に気になったポイントをご紹介します！
ブログ内ではすべての内容について触れることはできませんので、気になる方はアーカイブ動画をご覧ください！

① Memory が AI 構築においてなぜ重要なのか

このセッションの前半部分では、AI システムにおける Memory の重要性について、例え話を交えながら解説していました。
比較対象として「コンテキストウィンドウ」を挙げて、「より多くのインプットを与えることとメモリーを持つことがどう違うのか」という話をしています。
その部分が個人的にはかなり勉強になったので、要素に分けて深堀りしていきます。

トークンの増加に伴うパフォーマンスの低下

様々な企業の調査を引用しながら、トークンの増加に伴ったパフォーマンス低下について問題提起しています。

[引用されていた文献の一例]
Context Rot: How Increasing Input Tokens Impacts LLM Performance
The GenAI Divide STATE OF AI IN BUSINESS 2025
Lost in the Middle: How Language Models Use Long Contexts

LLM が世間に広まってから、LLM への入力をどう工夫するかという内容のナレッジが多く出てきていますが、入力量を増やせば増やすほど精度が上がるわけではないということがわかります。

また、LLM 自体はステートレスなので過去のやり取りを覚えることができず、限られたコンテキストウィンドウ内の情報だけを使って回答をする部分を「問題」として定義していました。
現在様々なモデルがとてつもなく大きなコンテキストウィンドウを提供している中で、それを「限られた」と言っているのがとても良いですね。

出典：Beyond a Chatbot: How to Build Intelligent Agent Memory (sponsored by MongoDB)

過去のやり取りを覚えられない LLM に対して、文脈や背景などをコンテキストで与える手法は有効ではありますが、コンテキストが限られている以上限界はありますし、限界の枠が広がったとて永遠に精度を上げることができない、というような内容だと理解しています。

Memory Engineering と Context Engineering の関係について

過去のやり取りを踏まえた回答による精度向上のために Memory はあるわけですが、Memory があるから Context は不要であるということではないよ、ということが語られています。
全体絵としてこういったものが紹介されています（何かの不具合で文字がずれているらしいです）

出典：Beyond a Chatbot: How to Build Intelligent Agent Memory (sponsored by MongoDB)

Short Term Memory や Long Term Memory といった Memory への情報連携、回答への利用などが一枚絵にまとまっていて非常に理解しやすいですね。

今まではやり取り内（Context 内）でしか保管することができず毎回リフレッシュされていた回答内容を、外部に保管し、それらの内容を用いて回答を最適化するために Memory が必要という内容ですね。
なんとなく理解していた内容でしたが、このセッションによって理解を深めることができました。

② Memory の Lifecycle

Memory の Lifecycle には、6 つの段階があると紹介されました。

出典：Beyond a Chatbot: How to Build Intelligent Agent Memory (sponsored by MongoDB)

大体の段階については理解していましたが、「Forgetting(データの削除)」についてはあまり考えたことがありませんでした。
削除する対象のデータの例として「価値の低いデータ」「期限切れのデータ」「多すぎるデータ」が挙げられており、それらを削除することで論理的かつ効率的な状態をキープすることができるという内容が解説されています。

生成 AI の RAG などを考えるうえでデータの質について議論されることが増えてきましたが、Memory についても質を意識した設計が重要になりそうです。

③ AI Agent 実装においてなぜ MongoDB が選ばれるのか

その理由は「網羅性の高さ」にありそうです。

出典：Beyond a Chatbot: How to Build Intelligent Agent Memory (sponsored by MongoDB)

AI Agent を構築するうえで「構造化データ」「非構造化データ」「ベクトルデータ」の保管、そしてベクトル化するためのエンベディングや評価のための Rerank が必要になります。
それらすべてを MongoDB が提供しているという内容が紹介されています。

DB としてのデータ保管の機能だけでなく、エンベディング・Rerank のためのモデルである「VOYAGE AI」まで提供しているというのは素晴らしいですよね。
実際にこのセッションの後 MongoDB のブースに行って同様の質問をしたのですが、やはり「AI Agent 実装において必要なものをワンストップで提供できるから」というような回答をしていました。

まとめ

本記事では、AWS re:Invent 2025 にて現地参加させていただいたセッション「Beyond a Chatbot: How to Build Intelligent Agent Memory (sponsored by MongoDB)」についてご紹介しました。
AI Agent 実装における「Memory」の重要性から、Memory やデータに関するデータライフサイクル、AI Agent 実装における MongoDB の優位性について語られている素晴らしいセッションです。

参考文献含めるとかなりボリュームのあるセッションですが、アーカイブが公開されておりますのでゆっくりキャッチアップしてみてください！
YouTube – AWS re:Invent 2025 – Beyond a Chatbot: How to Build Intelligent Agent Memory (AIM284)

NHN テコラスの採用情報はこちら