通过

OpenAI 高风险用例缓解要求

在此页中，了解 OpenAI 高风险用例的缓解要求。 在 Databricks 上使用 OpenAI 模型时，你负责实现这些要求

缓解要求

在对以下高风险用例使用 OpenAI 时，最终用户必须实现以下要求：

高风险用例 Description 缓解措施
涉及聊天或对话的应用程序 使用户能够与聊天代理交互的应用程序 验证此类应用程序是否具有特定的用途或主题意义，即与应用程序交互的用户不应能随意使用常规输入查询模型，从而生成不受限制的输出。
组织外部用户可访问的应用程序 通过以下机制之一对此类用户进行身份验证或监视：
  • 双重身份验证或多重身份验证。
  • 记录单个最终用户 ID 以便监控和修正。
  • 记录单个 IP 地址以获取可见性和修正。
涉及代码生成或转换方案的应用程序
  • 在生产中使用任何代码之前，先对代码进行人工评审。
  • 通过将代码生成限制为内部用户或实施客户端监控以防止滥用来限制基于用户的风险。
启用图像输入的应用程序 需要确保此类输入仅限于低风险和主题图像。