你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn

Azure AI Foundry 体系结构

Azure AI Foundry 提供了一套全面的工具,支持开发团队构建、自定义、评估和操作 AI 智能体及其组成模型和工具。

本文旨在向 IT 安全团队提供有关 Azure 服务体系结构、其组件及其与相关 Azure 资源类型的关系的详细信息。 使用此信息指导如何根据组织的要求自定义 Foundry 部署。 有关如何在组织中推出 AI Foundry 的详细信息,请参阅 Azure AI Foundry 推出

Azure AI 资源类型和供应商

在 Azure AI 产品系列中,我们区分了三个 Azure 资源提供程序 ,这些提供程序支持堆栈中不同层的用户需求。

资源提供者 Purpose 支持资源类型类型
Microsoft.CognitiveServices 支持代理和 GenAI 应用程序开发组合和自定义预生成模型。 Azure AI Foundry;Azure OpenAI 服务;Azure 语音;Azure 视觉
Microsoft.Search 支持对数据进行知识检索 Azure AI 搜索
Microsoft.MachineLearningServices 训练、部署和运行自定义和开源机器学习模型 Azure AI 中心(及其项目):Azure 机器学习工作区

Azure AI Foundry 资源是 Azure AI 的主要资源,建议用于大多数用例。 它基于与 Azure OpenAI、Azure 语音、Azure 视觉和 Azure 语言服务相同的 Azure 资源提供程序和资源类型 构建。 它提供对各个服务合并后形成的完整功能集的访问权限。

资源类型 资源提供者和类型 种类 支持的功能
Azure AI Foundry Microsoft.CognitiveServices/account AIServices 代理、评估、Azure OpenAI、语音、视觉、语言和内容理解
Azure AI Foundry 项目 Microsoft.CognitiveServices/account/project AIServices 上述子资源
Azure AI 语音 Microsoft.CognitiveServices/account Speech 语音
Azure AI 语言 Microsoft.CognitiveServices/account Language 语言
Azure AI 视觉 Microsoft.CognitiveServices/account Vision 视觉
Azure OpenAI 服务 Microsoft.CognitiveServices/account OpenAI Azure OpenAI 模型及其自定义
Azure AI 中心 Microsoft.MachineLearningServices/workspace hub 基于集线器的项目的连接集线器和安全配置保持器
Azure AI 中心项目 Microsoft.MachineLearningServices/workspace project 自定义 ML 模型训练和模型托管

同一提供程序命名空间下的资源类型共享相同的管理 API,并使用类似的 Azure 基于角色的访问控制 操作、网络配置和用于 Azure Policy 配置的别名。 如果要从 Azure OpenAI 升级到 Azure AI Foundry,则现有的自定义 Azure 策略和 Azure 基于角色的访问控制作将继续应用。

安全驱动的关注点分离

Azure AI Foundry 强制在管理和开发作之间明确分离,以确保安全且可缩放的 AI 工作负载。

  • Top-Level 资源治理: 管理作(例如配置安全性、与其他 Azure 服务建立连接以及管理部署)的范围限定为顶级 Azure AI Foundry 资源。 开发活动在专用项目容器中隔离,这些容器封装用例并提供访问控制、文件、代理和评估的边界。

  • 角色基于访问控制(RBAC): Azure RBAC 操作旨在反映这种职责分离。 控制平面作(例如创建部署和项目)不同于数据平面作(例如生成代理、运行评估和上传文件)。 可以在顶级资源级别和单个项目级别定义 RBAC 分配范围。 可以在任一范围内分配托管标识,以支持安全的自动化和服务访问。

  • 监视和可观测性: Azure Monitor 指标按范围细分。 管理和使用情况指标在顶级资源中可用,而特定于项目的指标(例如评估性能或代理活动)的范围限定为单个项目容器。

计算基础结构

Azure AI Foundry 应用灵活的计算体系结构来支持不同的 模型访问 和工作负荷执行方案。

数据存储

Azure AI Foundry 提供灵活且安全的数据存储选项,以支持各种 AI 工作负载。

  • 文件上传的托管存储:在默认设置中,Azure AI Foundry 使用逻辑分隔的Microsoft托管存储帐户,并支持直接文件上传,用于选择用例(例如 OpenAI 模型、助手和代理),而无需客户提供的存储帐户。

  • 自带存储(可选):用户可以选择连接自己的 Azure 存储帐户。 Foundry 工具可以根据工具和用例从这些帐户读取输入并将输出写入这些帐户。

  • 用于存储代理状态的自带存储

    • 在基本配置中,代理服务将线程、消息和文件存储在Microsoft托管的多租户存储中,逻辑分离。
    • 使用 代理标准设置,可以为线程和消息数据自带存储。 在此配置中,数据在客户的存储帐户中按照项目进行隔离。
  • Customer-Managed 密钥加密:默认情况下,Azure 服务使用Microsoft管理的加密密钥来加密传输中的数据和静态数据。 使用符合 FIPS 140-2 的 256 位 AES 加密对数据进行加密和解密。 加密和解密都是透明的,这意味着将替你管理加密和访问。 你的数据默认情况下就是安全的,你无需修改代码或应用程序,即可利用加密。

  • 自带 Key Vault:默认情况下,AI Foundry 将所有基于 API 密钥的连接机密存储在托管的 Azure Key Vault 中。 对于想要自行管理此资源的用户,他们可以连接到其 Key Vault 到 Foundry 资源。 一个 Azure Key Vault 连接将管理所有项目和资源级连接机密。 了解如何 设置与 AI Foundry 的 Azure Key Vault 连接

    使用客户管理的密钥时,使用密钥对Microsoft托管基础结构上的数据进行加密。

    若要了解有关数据加密的详细信息,请参阅 使用 Azure AI Foundry 进行加密的客户管理的密钥

后续步骤