Azure AI 搜索中的代理检索

什么是代理检索？ 在 Azure AI 搜索中， 代理检索 是一个新的多查询管道，专为聊天和 copilot 应用中的用户或代理提出的复杂问题而设计。 它适用于 检索扩充生成（RAG） 模式和代理到代理工作流。

下面是它的作用：

• 使用大型语言模型（LLM）将复杂查询分解为较小的重点子查询，以便更好地覆盖索引内容。 子查询可以包含聊天历史记录，以提供额外的上下文。

• 并行运行子查询。 每个子查询都会进行语义重排序，以提升最相关匹配结果的排名。

• 将最佳结果合并成一个统一的响应，你的 LLM 可以用它来生成包含你的专有内容的答案。

• 该响应通过包含查询计划和源文档展现出模块化特性，同时也非常全面。 可以选择仅使用搜索结果作为基础数据，或调用 LLM 来表述答案。

此高性能管道可帮助你为聊天应用程序生成高质量的地面数据（或答案），并能够快速回答复杂的问题。

对智能体检索的支持是以编程方式通过 2025-08-01-preview 和 2025-05-01-preview 数据平面 REST API 和提供该功能的 Azure SDK 预览包中的新知识智能体对象来实现的。 知识代理的检索响应旨在供其他代理和聊天应用下游使用。

为何使用代理检索

如果要为代理和应用提供最相关的内容来回答更难的问题，利用聊天上下文和专有内容，则应使用代理检索。

代理方面是查询规划处理中的一个推理步骤，由你提供的受支持大型语言模型 (LLM) 执行。 LLM 分析整个聊天线程，以确定所需的基础信息。 LLM 将复合问题拆解为专注的子查询，这些子查询是基于用户问题、聊天历史记录和请求中参数定义的，而不是单一的全集查询。 子查询以 Azure AI 搜索中的索引文档（纯文本和矢量）为目标。 这种混合方法可确保同时呈现关键字匹配和语义相似性，从而显著提高召回率。

检索组件能够同时运行子查询、合并结果、对结果进行语义排序，并返回包含三个部分的响应：其中包括下一个会话轮次的基础数据、引用数据以便检查源内容，以及显示查询执行步骤的操作计划。

查询扩展和并行执行以及检索响应是代理检索的关键功能，使其成为生成式 AI （RAG） 应用程序的最佳选择。

代理检索增加了查询处理的延迟，但它通过添加这些功能来弥补它：

• 读入历史聊天记录作为检索管道的输入。
• 将包含多个“请求”的复杂查询分解为组件部分。 例如：“帮我在海滩附近找一个提供机场接送服务且步行可达素食餐厅的酒店。”
• 将原始查询通过同义词映射（可选）和 LLM 生成的释义重写为多个子查询。
• 更正拼写错误。
• 同时执行所有子查询。
• 将统一结果输出为单个字符串。 或者，您可以提取响应中的部分以用于您的解决方案。 有关查询执行和引用数据的元数据包含在响应中。

代理检索会为每个子查询多次调用整个查询处理管道，但它是并行地进行调用，从而保持实现合理用户体验所需的效率和性能。

体系结构和工作流

智能体检索专为使用 LLM 智能分解复杂查询的对话搜索体验而设计。 系统协调多个 Azure 服务以提供全面的搜索结果。

工作原理

代理检索过程如下所示：

1. 工作流启动：应用程序调用带有检索动作的知识代理，该动作提供查询和对话历史记录。

2. 查询规划：知识代理将查询和对话历史记录发送到 LLM，后者分析上下文并将复杂的问题分解为重点子查询。 此步骤是自动化的，不可自定义。

3. 查询执行：知识代理将子查询发送到知识源。 所有子查询同时运行，可以是关键字、矢量和混合搜索。 每个子查询都会进行语义重新调整，以查找最相关的匹配项。 引用资料被提取并保留以供引证。

4. 结果合成：系统将所有结果合并为统一响应，其中包含三个部分：合并的内容、源引用和执行详细信息。

你的搜索索引决定了查询执行以及在查询执行过程中可能发生的任何优化。 具体而言，如果索引包含可搜索的文本和矢量字段，则执行混合查询。 如果唯一可搜索字段是矢量字段，则仅使用纯矢量搜索。 索引语义配置以及可选的计分配置文件、同义词映射、分析器和规范化器（如果添加筛选器）均在查询执行期间使用。 对于语义配置和计分概要文件，必须有命名默认值。

所需组件

集成需求

应用程序通过调用知识代理并处理响应来驱动管道。 管道返回传递到 LLM 的基础数据，以便在对话界面中生成答案。 有关实现详细信息，请参阅 教程：生成代理到代理检索解决方案。

如何入门

必须使用预览版 REST API 或提供该功能的预发行版 Azure SDK 包。 目前，没有 Azure 门户或 Azure AI Foundry 门户支持。

为下一步选择其中任一选项。

• 快速入门文章：在 Azure AI 搜索中运行代理检索。 使用示例数据和准备好的索引和查询了解基本工作流。

• 示例代码：

  • 快速入门-代理检索：Python
  • 快速入门-代理检索：.NET
  • 快速入门-代理检索：REST
  • Azure AI 搜索和 Azure AI 代理服务的端到端

• 聚焦开发任务的操作指南：

  • 创建搜索索引知识来源或 Blob 知识来源
  • 创建知识代理
  • 使用答案合成来创建有引文支持的响应
  • 使用知识代理检索数据
  • 教程：生成代理到代理检索解决方案

• REST API 参考：

  • 知识来源
  • 知识智能体
  • 知识检索

• Azure OpenAI 演示，已更新为使用代理检索。

可用性和定价

代理检索在所有提供 语义排名器的所有区域中都可用，但免费层除外。

代理检索计费分为两部分：

• 在 Azure OpenAI 中，查询规划和答案合成（可选）的计费方式为即用即付。 它是基于输入和输出标记的标记。 分配给知识代理的模型将根据令牌使用情况收费。 例如，如果使用 gpt-4o，令牌费用将显示在 gpt-4o 的帐单中。

• 在查询执行期间进行的语义排名将计费。 在初始发布阶段暂停计费，但随后通过语义排序器在 Azure AI 搜索端过渡到即用即付模式。 语义排名器是高级计费功能，是代理检索不可或缺的一部分。 在 Azure AI 搜索端，你需要为语义排名模型的标记输入付费。

对计划中的每个子查询执行语义排名。 语义排名费基于每个子查询返回的标记数。

示例：估算成本

智能体检索有两种计费模式：来自 Azure OpenAI 的计费（查询规划，如果启用，还有答案合成）和来自 Azure AI 搜索的语义排名计费（查询执行）。

此定价示例省略答案合成，但有助于说明估算过程。 你的成本可能更低。 有关交易的实际价格，请参阅 Azure OpenAI 定价。 对于查询执行，在初始公共预览版中，代理检索的语义排名是免费的。

查询规划的预估计费成本

若要在 Azure OpenAI 中估算查询计划成本（即用即付），我们假设 gpt-4o-mini：

• 15 美分用于 100 万个输入令牌。
• 对于 100 万个输出标记为 60 美分。
• 对于平均聊天对话大小为 2,000 个输入标记。
• 对于平均输出计划大小为 350 个标记。

查询执行的预估计费成本

若要估算与代理检索相关的语义排名成本，请从索引中平均文档的外观开始。 例如，可以使用以下似近值：

• 10,000 个区块，其中每个区块是 PDF 的一到两个段落。
• 每个区块为 500 个标记。
• 每个子查询最多重新排序 50 个块。
• 每个查询计划平均有三个子查询。

计算交易执行价格

1. 假设我们每个计划执行 2,000 次代理检索，并且每个检索包含三个子查询。 因此，我们总共大约有 6,000 个查询。

2. 每个子查询重新排序 50 个区块，总共 300,000 个区块。

3. 平均块大小为 500 个令牌，因此用于重新排序的令牌总数为 1.5 亿。

4. 假设每令牌价格为 0.022 美元，3.30 美元是重新计价的总成本。

5. 继续查询计划成本：2,000 个输入令牌乘以 2,000 次代理检索，等于 400 万个输入令牌，总成本为 60 美分。

6. 根据平均 350 个令牌估算输出成本。 如果我们将 350 乘以 2,000 次代理检索，则会得到总共 700,000 个输出标记，总成本为 42 美分。

将所有内容组合在一起，你将在 Azure AI 搜索中为语义排名支付约 3.30 美元，在 Azure OpenAI 中为输入令牌支付 60 美分，为输出令牌支付 42 美分，总计为查询计划支付 1.02 美元。 完整执行的总成本为 4.32 美元。