この記事は NHN テコラス Advent Calendar 2025 の 18 日目の記事です。

はじめに

こんにちは、フクナガです。
今年度も AWS re:Invent に現地参加してきました！
その中で、印象に残ったセッションの内容や様子、追加の補足情報などのレポートをしていこうと思います！

セッション概要

タイトル：Amazon AI Shopping Assistant: Key Learnings from Customer Interactions

登壇者

James Park, Principal ML Specialist Solutions Architect, AWS
Charlie Taylor, Senior Software Engineer, Amazon

形式

本セッションは、「Chalk talk」という、アーカイブが公開されない現地限定のセッションでした。
Chalk talk は、登壇者がホワイトボードを使いながら参加者の質問にリアルタイムで答える対話型のセッションです。Breakout session などの一般的なセッション形式とは異なり、参加者主導で進行するため、より参加者が知りたい情報を得ることができます。
英会話のスキルと参加する勇気が必要なセッションですが、Breakout session と呼ばれるいわゆる一般的なセッションよりもピンポイントで知りたい情報が得られるセッションで、非常に参加者からも人気です。

また、今回のセッションではセッションが始まる前に質問をあらかじめ募集し、参加者の熱量が高そうな質問に絞って解説していくという進め方がされていました。
私も勇気を振り絞って手を挙げてみたのですが、残念ながら指名されませんでした。。。
来年またチャレンジできるとよいですね。

セッションに関する紹介文

Amazon の AI を活用したショッピングアシスタント「Rufus」の立ち上げと規模拡大から得られた重要な洞察を探るセッションにご参加ください。初期導入から世界中で何百万もの顧客との対話に対応するまでに学んだ実践的な教訓を共有します。推論パフォーマンスの最適化、マルチモーダルデータの処理、グローバルなトラフィック負荷の分散方法についてご紹介します。何がうまくいき、何がうまくいかなかったのか、そして最高のショッピング体験を提供するために、重要な分野でどのようにアプローチを適応させたのかをご覧ください。（日本語訳）
出典：AWS re:Invent 公式

セッション会場の様子

Chalk talk の最大の特長であるホワイトボードです。
書かれた内容がディスプレイに反映されるため、見づらさなどは特にありませんでした！

前提知識： Rufus とは

本セッションは、Amazon が顧客向けに提供している生成 AI チャットボット「Rufus」に関するアーキテクチャや開発に伴うチャレンジなどが語られるセッションとなりますが、この記事を読んでいる方の中には「Rufus を知らない」という方もいらっしゃると思いますので、ご説明します。

Rufusは、AIを搭載したショッピング機能です。Rufusを使って、AmazonショッピングアプリとAmazon.co.jpでのお買い物に関するさまざまな質問を尋ねることができます。
出典：Rufusについて

Amazon を利用する際には単語での検索が主流ですが、Rufus を活用することで自然言語でやり取りしながら自身の求めるものを探すことが可能です。

実際に使ってみました！
スマホアプリだと、画面右下赤枠部分に Rufus のアイコンがありますので、そちらを選択すると Rufus を利用することが可能です。

「7 泊するための準備をしたい」とだけ伝えると、案内のために必要な詳細の質問が返ってきて、それに返答することで必要そうなものの実際の商品のリンクを教えてくれました。
スーツケース、変換プラグ（海外のホテルで利用するためのもの）、ネックピロー、さらにビジネスウェアとして着心地のよいセーターもおすすめしてくれるなど、かなり精度が高いなと感じました！

セッションの注目ポイント

セッション全体を語り切ることはできませんので、私がおもしろいと感じたポイントをご紹介します！

①ユーザーからの質問のカテゴライズ

Rufus は、Amazon に特化したチャットボットであるが故、ユーザーが欲しがっている情報を理解したうえでの適切な回答が必須となります。
セッションでは下記のような例が挙げられていました。

・ユーザーに対する商品の推薦
想定されるユーザー質問：友達にプレゼントを買いたいのですが、どういったものが喜ばれますか？
・ユーザーが探している商品の検索
想定されるユーザー質問：木目調のテレビ台で、高さが 20 cm 程度のものはありますか？
・注文中の商品のステータス確認（どこに今あるかなど）
想定されるユーザー質問：注文した○○は発送されましたか？

ただ「お客様からの質問に返答する」というざっくりとした役割を持たせるのではなく、役割を細分化したうえで設計することでユーザー体験を向上することができるという非常に良い学びでした。

試しに商品の推薦と検索に記載した想定ユーザー質問を Rufus に質問してみたのですが、プレゼントに関しては予算や相手の趣味に合わせたレコメンドをしてくれましたし、テレビ台についても過度にサイズが上振れているものや木目調ではないものが表示されないなど、非常に高い精度でした！

②モデルの選択

Rufus では、Amazon Nova、Claude が利用されているそうです。
また、モデルを独自でカスタマイズしているという部分は参加者の興味を引いていました。

初期は、コスト最適を実現するためのモデル選定をしていたものの、独自の前提知識をプロンプトなどで入れている関係で非常にパフォーマンスが悪かったそうです。
目的に合わせ、リテールに特化したモデル構築を実現したそうです。

大きなモデルを使えば柔軟に様々な問題を解決できますが、顧客体験には回答速度が重要ですし、運用観点では料金も深刻な問題となりうる（多くの場合がこのチャットボット利用料金をユーザーに請求することは難しい）ため、用途や目的に合わせたモデルを軽量モデルをもとにして構築していくことが求められそうです。

➂評価指標の設計

モデルの回答やチャットボット自体の価値をどう評価していくのか、といった話も聞くことができました。
回答としては、「チャットボットがいかに顧客の購買に貢献したか」というのがコアな指標だと説明していました。

購買を促進するためには、顧客が探したいものをスピーディーかつ適切に回答する必要がありますし、購買を迷っている方にはよりその方に合った魅力的な商品を提案できたか、また買いたくなるような文言を添えられたかなどが重要となると思います。
PoC 止まりにせず本番化していくためには、こういった目的の明確化と徹底が非常に重要だなと感じました。
この質問をされた際に即答できていたので、チーム内での共有もかなりできているように見えました。

④ベクトル DB として利用するサービスの選定

解釈が極端すぎるかもしれませんが、その場の回答の要約としては「検索する際のクエリが適切か、検索対象のデータソースとして正しいか、が重要であってベクトル DB に何を用いるのかなどはそこまで重要ではない。」という感じでした。
自然言語での検索をクエリに変換する NL2SQL や、エージェントによるタスク振り分け（検索先のデータソースが選定される）の部分などが、検索精度を上げていくために非常に重要であるという話と理解しました。

AWS のサービスでいうと Amazon Bedrock Knowledge Bases などでこういった構造化データへの検索についてマネージドで提供されていたりします。
参考：Amazon Bedrock Knowledge Bases 構造化データを使って自然言語でデータ分析を行う

こういったマネージドのものを活用していくのもよいですが、検索精度の向上を目指していくためにはより個別最適化された SQL 生成の仕組みというのも必要になっていくのかもしれませんね。

セッションの振り返り

ここまで、セッションに関する個人的な注目ポイントをご紹介していきました。
基盤部分のオーケストレーションやエージェント的なアプローチについてなど、上記で語り切れないような内容もたくさん知ることができる素晴らしいセッションでした！

また、参加者の質問の傾向を見ることがトレンド感や実際に現場で運用する際に出てくる課題を知ることへの近道になるな、とも感じました。
今回は特に「モデル選定」「リソース選定」「評価指標（モニタリング）」などの質問が多かった印象です。

中には「スポンサードされたコンテンツのレコメンドが多くなるのでは？」といった質問もあり、他人の質問を聞くのも すごくおもしろかったです！（この質問に対しては明確な回答はなかったような。。。）

また、Rufus 開発を担当するチームの構造などへの質問もあり、「知りたいことを本当に何でも質問できるのがやばいな」と感じました。

まとめ

本ブログでは、「Amazon AI Shopping Assistant: Key Learnings from Customer Interactions」という現地限定セッションを取り上げて、生成 AI アプリケーションを開発するうえでの重要なポイントのご紹介をさせていただきました。
また、AWS re:Invent の魅力の 1 つである「Chalk talk」についても素晴らしさを伝えられたのではないかなと思います。

2026 年もさらに生成 AI の活用が進んでいくと思いますので、このセッションで学んだ観点や工夫などのシェアが皆様の生成 AI 活用を推進する助けになればよいなと思います！
また、来年 re:Invent に行かれる方はぜひ Chalk talk にチャレンジしてみてくださいね！

NHN テコラスの採用情報はこちら