はじめに
こんにちは、SRE部 検索基盤SREブロックの富田です。2026年5月4日〜5日の2日間、New Yorkで開催された「AI Agent Conference 2026」に参加しました。
本記事では、現地の様子と印象に残ったセッションをご紹介します。
目次
AI Agent Conferenceとは
AI Agent Conferenceは、エンタープライズ領域における自律型AI（Autonomous AI／Agentic AI）をテーマとする国際カンファレンスです。研究系のAIカンファレンスとは異なり、AIエージェントのエンタープライズ実装に焦点を当て、技術・運用・戦略にわたる深い知見が交わされます。
特徴
本カンファレンスの特徴は、「1つのカンファレンス、3つのAgenticテーマ」というコンセプトでセッションが構成されている点です。2026年は以下の3テーマで議論が展開されました。
- Agentic Enterprises：AIエージェントによるビジネスオペレーションの変革
- Agentic Engineering：AIエージェントシステムを支えるインフラと設計
- Agentic Industries：金融・医療・法務・ロジスティクスなど業界別のユースケース
現地の様子
本カンファレンスは、New Yorkにあるヒルトン・ミッドタウンホテルで開催されました。来場者数は3,000人を超える規模でした。
Agentic Engineeringトラックは来場者数が多く、入場制限のかかるセッションも複数あるほどの人気でした。AIエージェントへの注目度が、想像していた以上に高かったというのが率直な印象です。
会場には70を超える企業ブースが並び、来場者がその場でプロダクトを体験できるブースも多く、終日盛況でした。
セッションレポート
検索機能を担当するSREとして、特に印象に残ったセッションを4つ紹介します。
(1) Architecting for the Agentic Customer: Systems Design for Non-Human Actors
本セッションでは、AIエージェントが消費者に代わって買い物をする「Agentic Commerce」に向け、EC事業者やプラットフォームが取るべきアーキテクチャ設計について紹介されました。
AIエージェントによる自律的な購買行動を支えるプロトコルは、ここ1年で急速に整備されています。代表例として、A2A（Agent-to-Agent Protocol）、AP2（Agent Payments Protocol）が挙げられます。さらに2026年1月にGoogleがUCP（Universal Commerce Protocol）を発表しました。
発表後の数週間でAmazon・Meta・Microsoft・Shopify・SalesforceがUCPに参画しました。業界全体で、エージェント間通信の標準化が一気に進みつつある状況です。
こうして「外側」の仕組みが急速に整う一方で、LLMベースのエージェント本体には本質的な弱点が残っています。ハルシネーション、予算を超えた購入、悪意のあるサイトに操作される脆弱性です。研究では、エージェントが偽の認証情報や虚偽の主張に騙されるケースが確認されています。セッションでは、これを「人間と同じ感覚で野に放つのは危険」と表現されていました。
セッションで提示されたのは、サンドイッチアーキテクチャと呼ばれる設計パターンです。LLMの強みと、入力が同じなら必ず同じ結果を返す決定論的レイヤー（ルールベースの処理層）を組み合わせ、エージェントの暴走を構造的に抑え込みます。
- 第1層（LLM）：自然言語の意図を構造化属性に変換する。「スコットランドのハイランドをハイキングするための防水ジャケットがほしい」という曖昧な要求を、防水等級・サイズ・想定気温などの具体的な属性に落とし込む
- 第2層（決定論的レイヤー）：UCPなどのプロトコルに準拠したAPI経由でEC事業者のデータを取得し、属性で確定的にフィルタする。ここでLLMは介入させず、ルールベースで候補を絞り込む
- 第3層（LLM）：最終決定する。必要なら第1〜2層に戻ってループする
このアーキテクチャでは、決定論的なフィルタリングが「LLMが暴走しても結果が破綻しない安全弁」として機能します。
EC事業者側の責務として、AEO (Agentic Engine Optimization) という概念も紹介されました*1。エージェントは画像や装飾ではなく、構造化された属性データしか見ません。商品ページがいくら美しくても、属性データに「急速充電に対応」という項目が抜けていれば、エージェントはその商品を選びません。実験では、ある属性が欠落しているだけで、エージェントは25ドル以上の価格差を付けないと購入対象に含めないという結果も示されました。
最後に、取引の全過程を後から追跡できる記録（監査証跡）の設計が、エージェント時代の信頼性の土台になる、という話で締められました。
AI時代の安全性は、LLMを賢くするだけでなく、その周りに置く決定論的レイヤーをどう機能させるかも重要だと感じました。また、エージェント駆動の購買が広がれば、商品検索の相手は「人間のユーザ」と「AIエージェント」両方になります。商品データの属性を漏れなく構造化し、AEOの観点で「エージェントから評価される」ことも、ECプラットフォームの検索機能の要件として加わってくると思いました。
(2) What Agents Want: Beyond One-Size-Fits-All Retrieval Systems
本セッションでは、エージェントの記憶や作業メモリの役割を果たすコンテキストレイヤーに求められる要件と、それを支えるベクトルデータベース（LanceDB）の設計思想について紹介されました。
これまでのRAG (Retrieval-Augmented Generation)は、ユーザのクエリ1つに対して数件のテキストを返すだけで成立する世界でした。しかし、エージェントが本番環境で動き出すと、扱うデータとクエリパターンは一変します。
エージェントは計画を立て、並列で検索を投げます。各種ツールを実行して得られた中間結果を随時メモリに記録し、バラバラの情報を要約・集約しつつ、もし行き詰まったら一歩手前のステップに逆戻りして別のルートから調べ直す、といった自律的な試行錯誤を行います。
その結果、コンテキストレイヤーが管理すべきデータはテキストだけでなく、PDF・スクリーンショット・テーブル・動画フレーム・オーディオクリップ・イベントログ・JSONログまで膨らみます。こうしたデータの広がりに合わせて、クエリの種類も多様化します。意味的検索だけでなく、キーワード検索や、特定の顧客IDかつ過去7日間といった構造化フィルタへの対応も必要です。さらにデータの来歴（どの埋め込みモデルを使ったか、いつ書き込まれたか）も管理対象になります。
これらを別々のシステム（ベクトルDB・データレイク・OLAP・メタデータストア）に分散させると問題が生じます。エージェント自身が「どのツールを使うべきか」「返ってきた結果をどう統合するか」の判断にトークンと推論能力を浪費してしまいます。
LanceDBはこの課題に対し、以下のアプローチを取っています。
- コンテキスト・来歴・特徴量・埋め込みベクトルの単一テーブル管理：エージェントはSQL、セマンティック検索、フルテキスト検索を同じテーブルに対して投げられる。ツール選択や結果統合の手間が消える
- データタイプ別ストレージ戦略の抽象化：インラインカラム、ページ単位管理、外部URL参照といったサイズに応じた格納戦略をエージェントから隠蔽する
- エージェント時代のスケール対応：100億行規模・10K QPSの書き込みは、従来のベクトルDBには想定外の負荷。p99レイテンシを悪化させず安定動作するよう、インデックス・シャーディング・量子化を再設計
- バージョニングと再現性：エージェントが探索した分岐の特定時点に戻れる、デバッグ時のリプレイができる仕組み
ベンチマーク結果では、エージェントフレームワーク標準のメモリ機能（インメモリの単純な検索）の取得精度が約52％なのに対し、LanceDBに置き換えると約76％まで上がります。取得時間も80秒台から数秒に短縮されると報告されていました。精度を上げると遅くなる、ではなく、正しい構造を選ぶと精度と速度が同時に上がるという結果は、素直に面白いと思いました。
また、AIエージェントが普及していくとデータ量やトラフィック量が大きく変化するため、今後の検索に求められる要件はさらに拡張されていくと感じました。
(3) Measuring & Evaluating Agentic AI
本セッションは、本番環境で動くエージェントの評価とモニタリングをテーマにしたパネルディスカッションでした。
エージェントのトレースは長く、深く、複雑です。1つのインタラクションの中で多段のChain-of-Thought（段階的に推論を重ねる思考過程）が走り、複数のツール呼び出しが連鎖します。そのため、「何が起きたか」を後追いで評価するには専用の仕組みが必要になります。
加えて、LLM-as-a-judge（LLM自身を評価者として使う手法）は、シンプルなユースケースなら安価ですが、エージェントが複雑化すると評価コストが急騰します。判定にも高価なモデルを使うため、本番規模ですべての出力をjudgeで評価する運用はコスト面で困難です。
さらに、オフライン評価（事前に用意した正解集に対する評価）と本番モニタリング（実行時の観測）が分断されており、両者をどう接続するかが課題になります。組織によって重視する軸もコスト・速度・リスクと異なるため、画一的な指標も置きにくい状況です。
パネリストからは、以下のような実践的なアプローチが共有されました。
- 指標はユースケース起点で設計する：「営業支援エージェントなら何を測るか」をユースケース単位でアカウンタビリティ・フレームワークとして定義する
- 「Cost per Successful Outcome」を中心指標に：単なる精度やレイテンシではなく、成功した結果1件あたりのコストで全体を見る
- LLM-as-a-judgeのコスト最適化：評価ごとに高価なLLMを呼ぶとコストが膨れ上がるため、本番規模ではSLM（小規模言語モデル）などの軽量モデルに切り替え、品質を保ちながらスケールさせる
- オフライン評価と本番モニタリングの継続的フィードバックループ：本番の挙動をオフライン評価に取り込み、評価セットを継続的に更新する
- 既存の観測スタックに乗せる：OpenTelemetryなど既存の観測基盤にエージェントの計装を統合し、モデル選択（LLMとSLMの使い分け）まで1つのダッシュボードで管理する
また、Microsoftのagent-governance-toolkitも紹介されていました。ポリシー強制・サンドボックス・OWASP Agentic Top 10対応など、エージェント運用全体を標準化しようとするツールキットです。
個人的に印象に残ったのは「Cost per Successful Outcome」という指標の話でした。精度やレイテンシを個別に追うのではなく、成功した結果1件あたりのコストで全体を見るという発想です。この観点で見ると、高価なLLMを使い続けるよりも、品質を保ちつつ徐々に安価なモデルに切り替えていくのが自然な方向だと感じました。実際、パネルディスカッション内でも同様のアプローチが議論されていました。
「エージェントが本番で失敗したとき、誰が責任を取るのか（エンジニア・プロダクトオーナー・エージェント自身）」という問いも面白かったです。「もはやみんなが互いの役割を担うようになっているので、全体を1つのシステムとして見るしかない」というのもAI時代の形だと思いました。
(4) Workflow Democratization & Operating in an Accelerated Development Environment
本セッションでは、NVIDIA Applied AI Labが10週間で25個のCLIツールを4人で構築した実例を交えて、AIエージェントのみで完結する開発パイプラインの設計思想が紹介されました。
冒頭で「AIが生成できるコード量と、コードレビュー・CI・自動テストといった既存の開発プロセスが吸収できる量の間に大きなギャップが生まれている」と問題提起がありました。このギャップを放置すれば、品質劣化・技術的負債の蓄積・アーキテクチャドリフトが避けられません。セッションでは、10月以降は一行も自分でコードを書いていない、それでも品質を担保する仕組みが必要だった、というエピソードも紹介されました。
NVIDIA Applied AI Labが採用しているのは、Research・Gates・Sweepsという3つの実践です。
- Research：何かを作り始める前に、開発対象のコードベースを理解するためのエージェント。コードベースの構造をダイアグラムとして生成させ、それに対して「この部分をもう少し詳しく」と対話的に深堀りすることで、設計の理解を深め、どこを変更すべきかを見極められるようにする
- Gates：PRがマージされる前のチェックを行うエージェント。PRレビューはもちろんのこと、変更内容に応じてどのテスト群（CI・自動テスト・ハードウェア上のE2Eテスト）を走らせるべきか判断し実行する
- Sweeps：PRがマージされた後の「掃除」を行うエージェント。アーキテクチャドリフトを定期的に検出し、技術的負債を刈り取る
ポイントは、これらを独立に運用するのではなく、Sweepで見つかった問題を新しいGateに昇格させるという継続的なキャリブレーションです。この仕組みにより、人が介在することなくAIエージェント間のみで品質を高めるサイクルが出来ています。
「4人のエンジニアで10週間に25個のCLIツールを構築し、いまも1日30〜40 PRをマージし続けている」という規模感に驚きました。
コーディングそのものをほぼAIに任せ、エンジニアはAIが自律的に動くためのワークフローを設計・チューニングする側に回っています。AIエージェントとの協働が進めば、エンジニアの仕事の重心もこちら側に寄っていくのだろうと感じました。
おわりに
本記事では、「AI Agent Conference 2026」の参加レポートをお届けしました。
全セッションを通して一番気になったのは、「これまで人間の活動リズムに沿って変動していたトラフィックが、AIエージェントの普及によって24時間絶え間なく発生するようになる」という話でした。複数のセッションでこのテーマが繰り返し言及され、このトラフィックの変化により膨れ上がるデータ量も従来の比ではないと語られていました。
またAIエージェントの普及を前提に、その負荷に耐えるインフラを考えるセッションも多くありました。AIエージェント普及後のトラフィックに向き合い方は、数年で大きく変わっていくのだろうと感じました。
ZOZOでは、一緒にサービスを作り上げてくれる方を募集中です。ご興味のある方は、以下のリンクからご応募ください。
*1:GEO（Generative Engine Optimization）と呼ばれる場合もあります
