你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn。
Azure AI Foundry 模型中的 Azure OpenAI 包括应用于所有模型的默认安全策略(不包括 Azure OpenAI Whisper)。 默认情况下,这些配置提供负责任的体验,包括 内容筛选模型、阻止列表、提示转换、 内容凭据和其他功能。
默认安全性旨在缓解不同类别的仇恨和公平、性、暴力、自我伤害、受保护材料内容和用户提示注入攻击等风险。 若要了解有关内容筛选的详细信息,请访问介绍类别和严重性级别的文档。
所有安全策略都是可配置的。 若要了解有关可配置性的详细信息,请参阅有关如何配置内容筛选的文档。
文本模型
Azure OpenAI 中的文本模型可以采用并生成文本和代码。 这些模型利用 Azure 的文本内容筛选器来检测和防止有害内容。 此系统同时适用于提示和补全。
| 风险类别 | 提示/完成 | 严重性阈值 |
|---|---|---|
| 仇恨和公平性 | 提示和补全 | 中等 |
| 暴力 | 提示和补全 | 中等 |
| 性 | 提示和补全 | 中等 |
| 自残 | 提示和补全 | 中等 |
| 用户提示注入攻击(越狱) | 提示语 | 无 |
| 受保护材料 – 文本 | 补全 | 无 |
| 受保护材料 – 代码 | 补全 | 无 |
视觉模型
已启用视觉的聊天模型
| 风险类别 | 提示/完成 | 严重性阈值 |
|---|---|---|
| 仇恨和公平性 | 提示和补全 | 中等 |
| 暴力 | 提示和补全 | 中等 |
| 性 | 提示和补全 | 中等 |
| 自残 | 提示和补全 | 中等 |
| 个体身份识别和敏感特性推断 | 提示语 | 无 |
| 用户提示注入攻击(越狱) | 提示语 | 无 |
图像生成模型
| 风险类别 | 提示/完成 | 严重性阈值 |
|---|---|---|
| 仇恨和公平性 | 提示和补全 | 中等 |
| 暴力 | 提示和补全 | 中等 |
| 性 | 提示和补全 | 中等 |
| 自残 | 提示和补全 | 中等 |
| 内容凭据 | 补全 | 无 |
| 政治候选人信息的欺骗性生成 | 提示语 | 无 |
| 公共人物刻画 | 提示语 | 无 |
| 用户提示注入攻击(越狱) | 提示语 | 无 |
| 受保护材料 – 艺术和工作室字符 | 提示语 | 无 |
| 脏话 | 提示语 | 无 |