你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。
成功的 AI 策略需要在四个核心领域进行结构化规划。 确定可衡量的业务价值的 AI 用例 ，选择符合团队技能 的Microsoft AI 技术 ，建立可缩放 的数据治理，并实施 负责任的 AI 做法 ，以保留信任并满足法规要求。 它适用于各种规模的组织，包括初创公司、中小企业、大型企业、非营利组织和公共部门机构。
快速链接：Microsoft AI 决策树
为什么战略 AI 规划很重要：与即席试验相比，记录的 AI 策略会产生一致、更快、可审核的结果。 本指南列出了Microsoft Copilot 部署、Azure AI Foundry 环境设置、AI 代理采用、Azure OpenAI 集成以及具有 Microsoft Purview 的组织范围的 AI 治理的可作步骤。
确定 AI 用例以实现最大业务影响
AI 通过加速知识工作和自动化例程来转换业务运营。 生成 AI （创建文本、图像或代码等内容的系统）提高了知识工作者的工作效率。 分析 AI 和机器学习 自动执行数据密集型任务、降低错误率并生成预测见解。 首先，通过可衡量的摩擦隔离流程，AI 可提高成本、速度、质量或客户体验。
首先关注业务成果：成功的 AI 计划将每个用例定位到量化的业务目标，而不是模型优先试验。 结构化发现方法与更高的作化成功率相关，Azure 体系结构中心 AI 指南强化了这一点。
确定自动化机会。 专注于适合自动化的过程，以提高效率和降低运营成本。 针对重复性任务、数据密集型操作或错误率高的领域，AI 可以对这些领域产生重大影响。
收集客户反馈。 使用结构化客户反馈（调查、支持脚本、NPS 评论）来发现使用 AI 自动提高满意度的用例。 此反馈有助于确定具有可衡量影响的计划优先级。
进行内部评估。 收集部门（运营、财务、法律、支持、产品）的投入，以确定 AI 可以应对的挑战和效率低下。 记录工作流并收集利益干系人输入，以发现自动化、见解生成或改进决策质量的机会。
研究行业应用场景。 调查类似的组织或行业如何使用 AI 解决问题或增强运营。 使用 Azure 体系结构中心中的 AI 体系结构 等资源获得灵感，并评估合适的方法。
定义 AI 目标。 对于每个用例，请定义目标（常规用途）、目标（所需结果）和成功指标（可量化度量值）。 这些基准指导采用和衡量成功。 有关详细信息，请参阅 示例 AI 策略。
使用 Microsoft 的服务选项定义 AI 技术策略
你的技术策略决定了速度、自定义和控制的平衡。 Microsoft提供三种主要 AI 使用模式：现成的软件（SaaS）、可扩展开发平台（PaaS）和完全托管的基础结构（IaaS）。 选择符合工程成熟度、合规性状况、数据驻留和自定义需求的模型。
了解 AI 智能代理。 AI 代理是使用 AI 模型完成任务的自治系统，无需持续人工监督。 这些系统表示从传统的自动化转向适应不断变化的条件的智能决策。 必须计划代理集成以支持 复杂的工作流 和多系统协作。 查看 什么是代理？ 以了解代理功能，并为基于代理的解决方案准备组织。
采用 AI 互操作性的标准机制。 标准协议使 AI 系统能够跨不同平台进行通信并减少自定义实现。 这些协议支持数据共享和系统集成，同时保持未来技术更改的灵活性。 你应该了解跨系统数据引入的模型上下文协议等协议，以确保 AI 系统支持互作性要求。 评估 NLWeb 等工具，为 AI Web 准备内容。 例如，请参阅 Microsoft Copilot Studio 中的模型上下文协议 ，并将 REST API 公开为 MCP 服务器。
选择适当的 AI 服务模型。 Microsoft提供三种服务模型，具有不同级别的自定义和 共同责任：软件即服务（SaaS）、平台即服务（PaaS）和基础结构即服务（IaaS）。 每个模型都需要不同的技术技能，并提供对 AI 实现的不同程度的控制。 必须与团队的功能、数据要求和自定义需求匹配相应的服务模型。 使用 AI 决策树指导选择过程。
Microsoft AI 决策树
为初始结果采用Microsoft软件 AI 服务（SaaS）
Microsoft现成的 AI 解决方案（称为 Copilots）以最少的设置提高工作效率。 Microsoft 365 Copilot 跨 Office 应用提供 AI 帮助，而 专业 Copilot 则专注于特定的工作角色和行业。 从这些解决方案开始，在迁移到自定义开发之前实现初始结果。
| Microsoft Copilots | 说明 | 用户 | 所需数据 | 所需技能 | 主要成本因素 |
|---|---|---|---|---|---|
| Microsoft 365 Copilot | Microsoft 365 Copilot 提供跨 Microsoft 365 应用程序的基于 Web 的聊天和应用内 AI 帮助，并与 Microsoft Graph 数据集成。 | 企业 | 是的。 使用敏感度标签对数据进行分类，并在 Microsoft Graph 中安全地与数据交互。 | 常规 IT 和数据管理 | 许可证 |
| 基于角色的 Copilot | 增强安全、销售、服务和财务中特定角色效率的代理。 | 企业 | 是的。 数据连接和插件选项可用。 | 常规 IT 和数据管理 | 安全 Copilot 的许可证或安全计算单元 （SCU） |
| 产品内 Copilot | GitHub、Power Apps、Power BI、Dynamics 365、Power Automate、Microsoft Fabric、Microsoft Entra 和 Azure 等产品中的 AI。 | 企业和个人 | 是的。 大多数都需要最少的数据准备。 | 最小（基本管理员配置和数据就绪情况） | 免费或订阅 |
| Microsoft Copilot 或 Microsoft Copilot Pro | Microsoft Copilot 是一个免费的基于 Web 的聊天应用程序。 Copilot Pro 在某些 Microsoft 365 应用中提供更好的性能、容量和对 Copilot 的访问权限。 | 个人 | 否 | 无 | Microsoft科皮洛特 是免费的。 Microsoft Copilot Pro 需要 订阅 |
使用低代码平台生成 AI 代理
Microsoft在没有完整开发团队的情况下，为自定义 AI 代理开发提供低代码平台。 Copilot Studio 允许企业用户使用自然语言创建 AI 助手，而 Microsoft 365 Copilot 扩展 允许使用公司特定的数据和流程自定义企业 Copilot。
| Microsoft Copilots | 说明 | 用户 | 所需数据 | 所需技能 | 主要成本因素 |
|---|---|---|---|---|---|
| 适用于 Microsoft 365 Copilot 的扩展性工具 | 通过声明代理自定义 Microsoft 365 Copilot，以便添加更多数据或功能。 使用 Copilot Studio、 lite 体验、 Teams 工具包和 SharePoint 等工具。 | 企业和个人 | 使用 Microsoft Graph 连接器 添加数据。 | 数据管理、常规 IT 或开发人员技能 | Microsoft 365 Copilot 许可证 |
| Copilot Studio | 使用 Copilot Studio 构建具有低代码工具和自然语言的对话式 AI 代理和自动化工作流。 | 信息技术 | 自动执行大部分数据集成，以使用与各种数据源的连接创建自定义 copilot。 | 用于连接数据源、设计聊天流和部署 copilot 的平台配置 | 许可证 |
使用 Azure 平台（PaaS）生成 AI 工作负载进行自定义开发
Azure 为不同的 AI 解决方案模式和成熟度级别提供开发平台。 Azure AI Foundry 是用于创建 检索扩充生成（RAG）应用程序、构建生产 AI 代理、评估和自定义 基础模型以及应用负责任的 AI 控件的统一平台。 这些托管功能使开发团队专注于解决方案差异，而 Azure 提供安全、治理、可观察性和可缩放基础结构基元。 使用 Azure AI 定价 和 Azure 定价计算器 进行成本建模。
| AI 目标 | Microsoft 解决方案 | 所需数据 | 所需技能 | 主要成本因素 |
|---|---|---|---|---|
| 生成代理 | Azure AI Foundry 代理服务 | 是 | 环境设置， 模型选择， 工具， 地面数据存储， 数据隔离， 代理触发， 连接代理， 内容筛选， 专用网络， 代理监视， 服务监视 | 使用模型令牌、存储、功能、计算、基础连接 |
| 生成 RAG 应用程序 | Azure AI Foundry | 是 | 选择模型、协调数据流、分块、扩充区块、选择索引、了解查询类型（全文、矢量、混合）、了解筛选器和方面、执行重新调整、提示工程、部署终结点以及在应用中使用终结点 | 计算、传入和传出令牌数、使用的 AI 服务、存储和数据传输 |
| 微调 GenAI 模型 | Azure AI Foundry | 是 | 预处理数据、将数据拆分为训练和验证数据、验证模型、配置其他参数、改进模型、部署模型以及在应用中使用终结点 | 计算、传入和传出令牌数、使用的 AI 服务、存储和数据传输 |
| 训练和推理模型 |
Azure 机器学习 或 Microsoft Fabric |
是 | 预处理数据、使用代码或自动化工具进行模型训练、改进模型、部署机器学习模型以及在应用中调用终结点 | 计算、存储和数据传输 |
| 使用预生成的 AI 模型和服务 |
Azure AI 服务和/或 Azure OpenAI |
是 | 选择 AI 模型、保护终结点、在应用中使用终结点，并根据需要进行微调 | 消耗的模型端点、存储、数据传输和计算资源（如果需要训练自定义模型） |
| 隔离 AI 应用 | 支持无服务器 GPU 的 Azure 容器应用 | 是 | 选择 AI 模型、协调数据流、分块、扩充区块、选择索引、了解查询类型（全文、矢量、混合）、了解筛选器和方面、执行重新调整、提示工程、部署终结点以及在应用中使用终结点;网络隔离的可选环境/VNet 配置（区域可用性和功能状态可能有所不同） | 计算、传入和传出令牌数、使用的 AI 服务、存储和数据传输 |
将 AI 模型与 Azure 基础结构服务（IaaS）配合使用以实现最大控制
Azure 基础结构服务为 AI 性能、隔离或合规性要求提供精细控制。 支持 GPU 的 Azure 虚拟机 启用自定义模型训练和基准测试（PyTorch、TensorFlow、分布式微调）。 Azure Kubernetes 服务（AKS） 提供容器业务流程、GPU 池、自动缩放和多租户工作负荷分段，用于推理和训练管道。 当必须 自带模型、使用自定义运行时或优化托管平台抽象之外的成本和性能时，请使用 IaaS 路径。 使用 Azure 定价计算器参考 Azure 基础结构定价，以便进行容量预测。
| AI 目标 | Microsoft 解决方案 | 所需数据 | 所需技能 | 主要成本因素 |
|---|---|---|---|---|
| 训练和推断自己的 AI 模型。 将自己的模型引入 Azure。 |
将 CycleCloud 用于 HPC 工作负荷的 Azure 虚拟机 或 Azure Kubernetes 服务 |
是 | 基础设施管理、IT、软件安装、模型训练、模型基准测试、编排、部署终端、保护终端以及在应用中使用终端 | 计算、计算节点业务流程协调程序、托管磁盘（可选）、存储服务、Azure Bastion 和其他使用的 Azure 服务 |
制定随需求增长的 AI 数据策略
数据策略是可缩放、可信 AI 的控制平面。 它定义如何对数据进行源、分类、保护、扩充、监视和停用，同时保持合规性并最大程度地降低风险。 持久策略可确保跨 Microsoft 365、Azure 和混合资产的优先 AI 用例管理高质量、可世系跟踪的数据。 专注于治理基线、弹性规划、生命周期检测和负责任的使用强制实施。
为 AI 项目设置数据管理。数据管理 可确保通过访问控制和策略安全地使用 AI 数据并遵守法规。 首先，根据敏感度和所需访问对数据进行分类。 使用 适用于 AI 的 Microsoft Purview 数据安全状况管理（DSPM） 来保护生成式 AI 应用程序;它包括 AI 数据安全性的功能。
规划数据增长和性能。 确保数据环境支持当前的 AI 项目和未来的增长，而不会降低性能或成本过高。 记录每个用例的当前数据量、处理频率和所需的数据类型。 此信息可帮助你选择适当的 Azure 服务。
在整个生命周期内管理数据。 定义如何收集、存储和停用数据，同时使其易于访问且安全供 AI 使用。 从数据库、API、IoT 设备和第三方源设置系统集合。 根据访问频率选择 Azure 存储层。 生成 ETL/ELT 管道 （数据处理工作流），以保持质量，并使用 负责任的 AI 仪表板 检查训练数据中的偏差。
遵循负责任的数据做法。 确保 AI 系统在道德上使用数据并满足法规要求。 使用 Microsoft Fabric 数据世系或MicrosoftPurview 数据世系跟踪数据源和使用情况。 设置质量标准，检查偏差，并评估训练数据集中的公平性。 创建保留策略，以平衡 AI 性能与隐私和合规性。
小窍门
数据决策加速器 （全部派生自现有指南）：
- 在大规模 RAG 引入之前开始分类，以避免返工。
- 将世系跟踪与保留策略配对，以减少孤立的敏感数据。
- 将偏见评估（负责任的 AI 仪表板）视为定期控制，而不是一次性入口。
- 提前使用成本遥测（令牌、存储、出口）来标记未绑定的数据增长。
制定负责任的 AI 策略
负责任的 AI 将信任、安全和法规一致性转换为整个 AI 生命周期的作控制。 负责任的 AI 策略将原则转化为可执行的控制、可衡量的检查点和明确的责任。 跨设计评审、风险评估、策略实施、模型和代理监视以及事件响应维护可审核链。
为 AI 治理分配明确的所有权。 指定特定人员或团队拥有 AI 治理决策和管理法规要求。 治理角色定义 AI 项目的决策授权。 分配某人来监视 AI 技术更改和新法规。 创建 AI 云卓越中心 ，集中责任并建立 AI 治理问题过程。
采用负责任的 AI 原则作为业务目标。 使用Microsoft 负责任的 AI 原则 作为道德 AI 开发的框架。 这六项 AI 原则与 NIST AI 风险管理框架 保持一致，并成为指导项目选择和发展的可衡量业务目标。 将这些原则集成到项目规划、开发流程和成功指标中。
为项目选择负责任的 AI 工具。 选择跨 AI 计划实施道德 AI 原则的工具。 Microsoft提供与不同的 AI 用例和风险级别匹配 的负责任的 AI 工具和流程 。 将这些工具集成到开发工作流中，以应用负责任的 AI 实践。
遵守 AI 法规。 确定适用于运营和 AI 用例的本地和国际 AI 法规。 合规性要求因行业、位置和 AI 应用程序类型而异。 监视法规更改和更新合规性策略，以保持一致。
示例 AI 策略
此示例 AI 策略使用虚构的公司 Contoso。 Contoso 运营一个面向客户的电子商务平台，并聘请需要工具来预测业务数据的销售代表。 该公司还负责管理用于生产的产品开发和库存。 销售渠道包括私营公司和受监管的公共部门机构。
| AI 用例 | 目标 | 目标 | 成功指标 | AI 方法 | Microsoft 解决方案 | 数据需求 | 技能需求 | 成本因素 | AI 数据策略 | 负责任的 AI 策略 |
|---|---|---|---|---|---|---|---|---|---|---|
| 电子商务 Web 应用程序聊天功能 | 自动化业务流程 | 提高客户满意度 | 提高客户保留率 | PaaS、生成式 AI、RAG | Azure AI Foundry | 项目描述和搭配 | RAG 和云应用开发 | 使用情况 | 为客户数据建立数据治理，并实施 AI 公平性控制。 | 将 AI 责任分配给 AI CoE，并与负责任的 AI 原则保持一致。 |
| 内部应用文档处理工作流 | 自动化业务流程 | 降低成本 | 提高完成率 | 分析 AI，微调 | Azure AI 服务 - 文档智能 | 标准文档 | 应用开发 | 估计的使用量 | 为内部文档定义数据治理，并规划数据生命周期策略。 | 分配 AI 问责制，并确保遵守数据处理政策。 |
| 库存管理和产品购买 | 自动化业务流程 | 降低成本 | 库存的更短保质期 | 机器学习，训练模型 | Azure 机器学习 | 历史库存和销售数据 | 机器学习和应用开发 | 估计的使用量 | 建立销售数据治理，检测并解决数据中的偏差。 | 明确 AI 问责制，并遵守财务法规。 |
| 跨公司的日常工作 | 提高个人工作效率 | 改善员工体验 | 提高员工满意度 | 软件即服务生成式人工智能 (SaaS generative AI) | Microsoft 365 Copilot | OneDrive 数据 | 通用 IT | 订阅成本 | 对员工数据实施数据治理，确保数据隐私。 | 指定 AI 责任，并利用内置的负责任的 AI 功能。 |
| 适用于受管制行业聊天功能的电子商务应用 | 自动化业务流程 | 增加销售 | 增加销售额 | IaaS 生成式 AI 模型训练 | Azure 虚拟机 | 特定领域的训练数据 | 云基础结构和应用开发 | 基础结构和软件 | 定义受监管数据的治理，并使用合规性措施规划生命周期。 | 分配 AI 问责制，并遵守行业法规。 |
用于 AI 策略实现的 Azure 工具和资源
| 类别 | Tool | 说明 |
|---|---|---|
| AI 策略规划 | Azure AI 体系结构中心 | 跨行业和企业用例的 AI 解决方案的综合参考体系结构和设计模式 |
| 代理开发平台 | Azure AI Foundry 代理服务 | 功能齐全的平台，用于使用企业安全性构建、部署和管理智能 AI 代理 |
| 企业生成 AI | Azure OpenAI 服务 | 对 GPT-4 系列（包括 GPT-4o）和 DALL 的企业级访问。具有安全、合规性和负责任的 AI 功能的 E 模型 |
| AI 数据管理 | Microsoft Purview 数据安全状况管理（DSPM）for AI | AI 数据风险可见性、数据保护控件和对生成式 AI 工作负载的监视 |
| 负责任的 AI 工具 | Microsoft负责任的 AI 仪表板 | 用于偏差检测、公平评估和 AI 模型可解释性的综合工具 |
| AI 开发平台 | Azure AI Foundry | 适用于 RAG 应用程序的统一平台、基础模型微调和 AI 工作负荷部署 |
| Low-Code AI 开发 | Microsoft Copilot 工作室 | 使用自然语言界面生成对话式 AI 代理和自动化工作流 |
| 企业 AI 生产力 | Microsoft 365 Copilot | 通过企业数据集成跨 Microsoft 365 个应用程序实现 AI 支持的工作效率 |
AI 策略成功的关键要点
战略规划提供更快的结果：记录的 AI 策略可生成一致的可审核结果。 成功取决于确定业务一致的用例的优先级，选择正确的 Microsoft AI 服务模型（SaaS、PaaS、IaaS），以及建立可缩放的数据治理和 DSPM 控件。
Microsoft AI 组合支持采用模式：集成的 Microsoft AI 生态系统通过 Microsoft 365 Copilot 提高工作效率，通过 Azure AI Foundry （RAG、代理、评估、模型业务流程）实现差异化解决方案，并通过 Azure 基础结构服务提供专用化和隔离。
负责任的 AI 至关重要：嵌入治理、透明度工具、内容安全、公平性评估和法规一致性，而不是部署后，以降低修正成本，增强利益干系人的信心。
重要的 AI 术语：AI 采用框架、Azure AI Foundry、AI 代理、生成 AI、检索扩充生成（RAG）、Microsoft 365 Copilot、负责任的 AI 治理、机器学习工作负载、AI 数据策略、Microsoft Purview 数据安全状况管理（DSPM）for AI、Copilot Studio、Azure OpenAI 服务、AI 代理业务流程、共同责任模型、AI 世系、内容安全、数据最小化。
摘要
企业 AI 策略结合了结果驱动的用例优先顺序、适当的Microsoft AI 服务模型（适用于加速的 SaaS、用于区分的 PaaS、专用化 IaaS）、治理和世系可跟踪的数据基础，以及可强制实施负责任的 AI 控制。 使用 Azure AI Foundry 进行统一代理和 RAG 开发，使用 Microsoft 365 Copilot 进行早期生产力影响，集成 Microsoft Purview DSPM，以主动降低数据风险，并应用持续评估和可观测性来维持大规模信任、性能和合规性。