你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn

QnA Maker 的透明度说明和用例

重要

仅为方便起见,提供非英语翻译。 请参阅 EN-US 版本以获取最终版本的此文档。

什么是透明度说明?

AI 系统不仅包括技术,还包括使用它的人员、受其影响的人员以及部署它的环境。 创建一个适合其预期用途的系统需要了解技术的工作原理、功能和局限性,以及如何实现最佳性能。

Microsoft提供了 透明度说明 ,可帮助你了解 AI 技术的工作原理。 这包括系统所有者可以做出的影响系统性能和行为的选择,以及考虑整个系统(包括技术、人员和环境)的重要性。 可以在开发或部署自己的系统时使用透明度说明,或与将使用或受系统影响的人员共享它们。

透明度说明是Microsoft将 AI 原则付诸实践的更广泛努力的一部分。 若要了解详细信息,请参阅 Microsoft的 AI 原则

QnA Maker 简介

QnA Maker 是一种基于云的自然语言处理服务,可轻松地基于数据创建自然对话层。 它可用于从自定义信息库中查找指定自然语言输入的最合适的答案。 请参阅 此处支持的语言列表。

QnA Maker 通常用于生成对话式客户端应用程序,其中包括社交媒体应用程序、聊天机器人和支持语音的桌面应用程序。 基于 QnA Maker 的客户端应用程序可以是使用自然语言与用户通信以回答问题的任何对话应用程序。

QnA Maker 使用多个 Azure 资源,每个资源用于不同的用途: Azure 认知搜索应用服务器和应用服务计划和Application Insights。 所有客户数据(问答和聊天日志)都存储在客户部署依赖服务实例的区域。 有关从属服务的更多详细信息,请参阅此处

QnA Maker 的基础知识

使用 QnA Maker 的第一步是训练和准备 QnA 服务,以识别可以从内容生成的问题和答案。 QnA Maker 将内容导入问答对知识库。 导入过程提取有关结构化和半结构化内容部分之间的关系的信息,以推断问答对之间的关系。

提取的问答对按以下方式显示:

包含元数据的示例问题和答案的关系图。

可以编辑这些问答对,并自行添加新的问答对。 当你对知识库的内容感到满意时,可以发布它,这样就可以使用它来响应发送到客户端应用程序的问题。 第二步,客户端应用程序将用户的问题发送到 QnA Maker 服务 API。 QnA Maker 服务将处理问题,并以最佳回答做出响应。

向机器人提问并获取知识库内容答案的关系图。

有关更多详细信息,请参阅 QnA Maker 文档

术语和定义

条款 定义
知识库 已从内容源中提取或手动添加的问题、答案和元数据的集合。 然后,该集合用于开发问答对。 QnA 服务的查询与知识库的内容匹配。
主动学习 利用系统使用过程中的反馈来向知识库所有者提供建议(以新问题的形式),以改进其知识库的内容。 在此处了解详细信息。
多回合 有时,QnA Maker 需要其他信息来确定用户问题的最佳答案。 QnA Maker 向用户提出后续问题。
元数据 可与知识库中的每个问答对关联的附加信息(采用名称和值的形式)。 元数据可用于传递上下文和筛选结果。
同义词 可在知识库中互换使用的备用术语。

示例用例:

可以在多个方案中以及跨各种行业使用 QnA Maker。 通常,信息检索用例最适合 QnA Maker,其中通常只有一个或只有几个正确的用户问题的答案。 具有各种观点、世界观、地缘政治观点、争议性内容等的方案或主题将更加难以正确回答。 客户应注意,通过 QnA Maker 提供此类内容可能会产生负面情绪和反应,并导致负面宣传。 如果你确实提供了这种类型的内容,请考虑添加源属性,以允许用户自行评估答案。

建议使用 QnA Maker 的一些典型方案:

  • 客户支持: 在大多数客户支持方案中,常见问题会经常被问到。 QnA Maker 允许你从现有支持内容立即创建聊天机器人,此机器人可以充当用于处理客户查询的一线系统。 如果机器人无法回答问题,则其他组件可以帮助识别并标记问题进行人工干预。

  • 企业常见问题解答机器人: 信息检索对于企业员工来说是一个挑战。 内部常见问题解答机器人是帮助员工获取常见问题的解答的好工具。 QnA Maker 使各个部门(如人力资源或工资单)能够构建常见问题解答聊天机器人来帮助员工。

  • 通过搜索即时答案: 许多搜索系统使用即时答案增强搜索结果,使用户能够立即访问与其查询相关的信息。 QnA Maker 的答案可以与文档搜索的结果相结合,为最终用户提供即时答案体验。

选择其他用例时的注意事项

  • 避免高风险情境: QnA Maker 使用的机器学习算法根据其训练的数据来优化性能,然而,总会存在一些边缘情况,在这些情况下,由于系统对用户查询理解不足,可能无法返回正确的答案。 使用 QnA Maker 设计方案时,请注意假正结果的可能性。 建议创建方案中询问的排名靠前的查询的数据集和相应的预期答案,并定期测试服务,了解响应的正确性。 例如:

    • 医疗: 这通常需要高精度,错误的信息可能会带来危及生命的后果。 请考虑使用 QnA Maker 了解患者症状并将其与常见疾病匹配的医生助理机器人的示例。 同样,任何旨在与精神健康问题患者(如抑郁症或焦虑)进行对话的机器人都必须非常小心地处理返回的反应。 QnA Maker 可用于分析临床术语并提取有用的问答对,但它并非设计、意图或为创建医疗设备而提供的工具,也不应被用作专业医疗建议、诊断、治疗或判断的替代。 客户需全权负责在其应用的最终用户中显示和/或获取适当的同意、免责声明、警告和确认。
  • 避免开放域场景: QnA Maker 旨在回答来自特定领域知识库的问题,而非不限范围的问题或超出领域的问题。 在 QnA Maker 中使用域外问题可能会返回不正确的响应。 例如:

    • 社交机器人: 用于通用聊天(与特定域无关)的机器人很难使用 QnA Maker 进行设计。 在这些情况下,用户意图和观点可以广泛范围(例如体育、时尚、政治和宗教)。 构建 QnA Maker 知识库最适合用于事实呈现和/或内容发现。 将 QnA Maker 用于各种世界观主题可能很有挑战性,我们建议客户考虑更仔细地审查或策展此类内容。

    • 处理不适当的对话: 用户可能会启动与机器人的不当对话,包括脏话或仇恨言论。 机器人设计者必须非常谨慎地处理这些对话,确保能够以高准确度检测这些意图,并给出适当的响应。 很难在 QnA Maker 中构建一个全面的知识库,其中包含可能的不适当的话语的每个变体。 因此,最好使用基于规则的系统处理此类情况,例如,可以快速检查用户话语是否存在来自预处理的不适当的关键字阻止列表中的任何字词。 这不是 QnA Maker 服务的一部分,需要在 QnA Maker 服务的基础上进行开发。

  • 法律和法规注意事项:组织在使用任何 AI 服务和解决方案时需要评估潜在的特定法律和监管义务,这些义务可能不适合在每个行业或方案中使用。 此外,AI 服务或解决方案并未设计为按适用服务条款和相关行为准则禁止的方式使用,也不得按这类方式使用。

后续步骤