你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn

创建和部署 CQA 代理

本文提供了有关生成和部署 CQA 代理的明确步骤和重要提示。 无论你是不熟悉此过程还是更新技能,本指南都可以帮助你成功设置和启动代理。

注释

  • 如果已有 Azure AI 语言或多服务资源(无论是单独使用还是通过 Language Studio 使用),则可以在 Azure AI Foundry 门户中继续使用这些现有语言资源。 有关详细信息,请参阅 如何在 Azure AI Foundry 门户中使用 Azure AI 服务
  • 在 Azure AI Foundry 中,微调任务充当 CQA 解决方案的工作区。 以前,微调任务被称为 CQA 项目。 在较早的 CQA 文档中,这两个术语可能会被交替使用。
  • 强烈建议在 AI Foundry 中使用 Azure AI Foundry 资源;但是,也可以使用语言资源按照这些说明进行操作。

先决条件

在开始之前,需要以下资源和权限:

步骤 1:入门

让我们开始吧:

  1. 导航到 Azure AI Foundry。

  2. 如果尚未登录,门户会提示你使用 Azure 凭据执行此作。

  3. 登录后,可以在 Azure AI Foundry 中创建或访问现有项目。

  4. 如果尚未在 Foundry 项目中使用已部署的 CQA 知识库,请立即将其选中。

步骤 2:在 Azure AI Foundry 中部署 OpenAI 模型(必需)

OpenAI 模型充当代理的智能和高级推理的基础来源。

  1. 从导航菜单的“我的资产”部分选择模型 + 终结点

    Azure AI Foundry 中“部署模型”按钮菜单的屏幕截图。

  2. 在主窗口中,选择“ + 部署模型 ”按钮。

  3. 从下拉菜单中选择 “部署基本模型 ”。

    Azure AI Foundry 中已连接资源菜单项的屏幕截图。

  4. “选择模型 ”窗口中,为此项目选择 gpt-4 基本模型。

    Azure AI Foundry 中选择模型界面的屏幕截图。

  5. 接下来,选择“ 确认 ”按钮。

  6. “部署 gpt-4 ”窗口中,保留默认值并选择“ 部署 ”按钮。

    Azure AI Foundry 中 gpt-4 部署窗口的屏幕截图。

  7. 太好了! 模型部署步骤已完成。

步骤 3:连接自定义密钥(必需)

自定义密钥充当代理的增强安全凭据。

  1. 导航到 管理中心连接的资源

    Azure AI Foundry 中管理中心导航菜单中已选择的连接资源的屏幕截图。

  2. 在主窗口中,选择“ + 新建连接 ”按钮。

  3. “添加与外部资产的连接 ”窗口的 “其他资源类型”下,选择“ 自定义密钥”。

    在 Azure AI Foundry 中添加自定义密钥选择的屏幕截图。

  4. “连接自定义资源 ”窗口中,按如下所示配置连接:

    • 身份验证。 将此字段设置为 “自定义 ”(默认值)。

    • 自定义密钥。 选择“+ 添加键值对”并填写两个字段,如下所示

    • 第一个字段。 使用以下键名称完成此字段:

      Ocp-Apim-Subscription-Key
      
      
    • 第二个字段。 使用 Azure 门户 Azure AI Foundry 或用于创建 CQA 知识库的 Azure AI 语言 资源中的密钥值完成此字段。 请确保选中 “机密 ”框。

      Azure AI Foundry 中“连接自定义资源”窗口的屏幕截图。

    • 接下来,添加 连接名称

    • 最后,选择 “添加连接 ”按钮。

  5. 新的自定义密钥连接将列在< c0>“管理此项目中已连接的资源”页面上。

  6. 现在,我们预配了创建代理所需的所有资源。 选择“ 转到项目 ”按钮,使用已部署的 CQA 知识库返回到项目。

    Azure AI Foundry 中“转到项目”按钮的屏幕截图。

步骤 4:创建代理

准备好 OpenAI 部署和自定义密钥后,即可开始构建代理,该代理以你为此项目选择的知识库为基础。

  1. 在项目的概述页中,从左侧导航菜单中选择 “微调 ”。

  2. 在主窗口中,从显示的列表中选择使用已部署的 CQA 知识库创建的 模型名称

  3. “入门”菜单中选择“部署知识库”。

  4. 在后续步骤下,选择“ 创建代理 ”按钮。

    Azure AI Foundry 中的“创建代理”按钮的屏幕截图。

  5. “创建新的 CQA 代理 ”窗口中,完成字段,如下所示:

    • AI Foundry 项目名称。 默认情况下,项目的名称应已在此字段中显示。
    • 部署模型。 在 步骤 2 中部署的模型的名称应默认显示在此字段中。
    • 代理名称。 为代理命名(不使用短划线或下划线)。
    • 自定义连接。 在 步骤 3 中连接的自定义密钥的名称应默认显示在此字段中。
  6. 选择 “下一步 ”按钮:

    Azure AI Foundry 中创建 CQA 代理窗口的屏幕截图。

  7. 查看新代理的详细信息,然后选择“ 创建代理 ”按钮。

  8. 成功创建代理后,选择“在操场中试用”按钮

    在 Azure AI Foundry 中创建 CQA 代理评审和创建窗口的屏幕截图。

步骤 5:在代理工作区进行测试

代理场提供沙盒来测试和配置部署的代理(添加知识和定义作),然后再将其部署到生产环境,而无需编写代码。

  1. “创建和调试代理 ”窗口中,选择“ 在场中试用 ”按钮。

    Azure AI Foundry 中“创建和调试代理”窗口和“试用场”按钮的屏幕截图

  2. 成功将代理上传到测试环境后,可以通过发送测试查询来测试该代理。

    Azure AI Foundry 中代理沙盒的屏幕截图。

就是这样! 代理创建和部署过程已完成。 现在,你已了解如何使用自己的自定义知识库部署 CQA 代理。

清理资源

若要清理和删除 Azure AI 资源,可以删除单个资源或整个资源组。 如果删除资源组,也会删除包含的所有资源。

后续步骤