会话智能体创建体验常见问题

这些常见问题(常见问题解答)描述了 Copilot Studio 中聊天代理创建体验的 AI 影响。

对话式智能体创建体验如何?

会话智能体创建体验用于帮助您创建自定义智能体或 Copilot 智能体。 通过对话,它会预测代理的名称、描述和指令,支持添加知识源,并生成建议的提示(适用于 Copilot 代理)。

会话代理创建体验的功能有哪些?

可以通过自然语言界面快速开始使用自定义代理或 Copilot 代理配置。 系统根据对话期间的输入更新配置。 当您在 Copilot 的对话创建体验和测试智能体之间迭代浏览时,系统会自动保存智能体配置。

对话式智能体创建体验的预期用途是什么?

您可以使用此体验开始初始智能体配置。

如何评估对话智能体创建体验,以及使用哪些指标来衡量性能?

我们评估了系统的准确性,即预测配置通过对话表示请求的程度,以确保质量。 我们还进行了测试,以确保系统不会产生有害内容或恶意内容。

对话智能体创建体验有哪些限制,用户在使用时如何最大程度地减少限制的影响?

  • 对话智能体创建体验仅支持某些语言。 你可能能够使用其他语言,但生成的答案可能不一致或意外。

  • 此体验只能用于配置:

    • 名称
    • 说明
    • 创建智能体的说明
    • 支持的知识源类型的子集
    • Copilot 智能体的建议提示
  • 此体验允许您在配置和测试智能体之间切换,但您指定的知识来源可能无法立即可用于测试聊天体验。

  • 有关在使用此功能创建的代理中使用生成答案时的其他注意事项和限制,请参阅 “负责任的 AI 常见问题解答 ”。

哪些操作因素和设置可以有效、负责任地使用会话智能体创建体验?

可以使用自然语言通过聊天与系统对话,也可以直接手动编辑配置。 如果您手动编辑,系统可能会在您继续对话时用额外的信息更新您的代理配置。

Copilot Studio 对负责任 AI 有哪些保护措施?

生成式答案包括各种保护措施,以确保管理员、制作者和用户享受安全、合规的体验。 管理员可以完全控制其租户中的功能,并可以随时关闭在您的组织中发布带有生成式答案的智能体的功能。 制作者可以添加自定义说明来影响其智能体返回的回复类型。 有关编写自定义指令的最佳实践的更多信息,请参阅使用提示修改为智能体提供自定义指令

制作者还可以限制智能体可以用来回答问题的知识源。 为了让智能体能够回答其配置知识源范围之外的问题,制作者可以打开 AI 常识功能。 要限制智能体只能在其配置的知识源范围内回答问题,制作者应关闭此功能。

Copilot Studio 还对所有生成式 AI 请求应用内容审核策略,以保护管理员、制作者和用户免受冒犯性或有害内容的影响。 这些内容节制策略也适用于越狱、提示注入、提示渗出和版权侵犯等恶意尝试。 所有内容都会检查两次:第一次是在用户输入期间,第二次是在智能体即将响应时。 如果系统发现有害、冒犯性或恶意内容,则会阻止您的智能体做出响应。

最后,最佳做法是向用户传达智能体使用人工智能,因此以下默认消息通知用户:“只是为了让您知道,我有时会使用 AI 来回答您的问题。