你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn

问题解答的透明度说明和用例

重要

仅为方便起见,提供非英语翻译。 请参阅 EN-US 版本以获取最终版本的此文档。

什么是透明度说明?

AI 系统不仅包括技术,还包括使用它的人员、受其影响的人员以及部署它的环境。 创建一个适合其预期用途的系统需要了解技术的工作原理、功能和局限性,以及如何实现最佳性能。

Microsoft提供了 透明度说明 ,可帮助你了解 AI 技术的工作原理。 这包括系统所有者可以做出的影响系统性能和行为的选择,以及考虑整个系统(包括技术、人员和环境)的重要性。 可以在开发或部署自己的系统时使用透明度说明,或与将使用或受系统影响的人员共享它们。

透明度说明是Microsoft将 AI 原则付诸实践的更广泛努力的一部分。 若要了解详细信息,请参阅 Microsoft的 AI 原则

问题解答简介

问答是一种基于云的自然语言处理服务,可轻松地基于数据创建自然对话层。 它可用于从自定义信息库中查找指定自然语言输入的最合适的答案。 请参阅 此处支持的语言列表。

问答通常用于构建对话客户端应用程序,其中包括社交媒体应用程序、聊天机器人和支持语音的桌面应用程序。 基于问题解答的客户端应用程序可以是与自然语言的用户通信以回答问题的任何对话应用程序。

问答使用多个 Azure 资源,每个资源用于不同的用途: Azure 认知搜索Azure Monitor。 所有客户数据(问答和聊天日志)都存储在客户部署依赖服务实例的区域。 有关从属服务的更多详细信息,请参阅此处

问答的基础知识

使用问答的第一步是配置并优化 QnA 服务,使其能够识别并处理从您的内容中生成的问题和答案。 问答功能会将您的内容导入到问答对的知识库中。 导入过程提取有关结构化和半结构化内容部分之间的关系的信息,以推断问答对之间的关系。

提取的问答对按以下方式显示:

包含元数据的示例问题和答案的图像。

可以编辑这些问答对,并自行添加新的问答对。 当你对知识库的内容感到满意时,可以发布它,这样就可以使用它来响应发送到客户端应用程序的问题。 第二步,客户端应用程序将用户的问题发送到问答服务 API。 你的问答服务处理问题,并使用最佳答案进行响应。

显示向机器人提出问题并从知识库内容获取答案的图像。

有关更多详细信息,请参阅 问答文档

术语和定义

条款 定义
知识库 已从内容源中提取或手动添加的问题、答案和元数据的集合。 然后,该集合用于开发问答对。 QnA 服务的查询与知识库的内容匹配。
主动学习 利用系统使用过程中的反馈来向知识库所有者提供建议(以新问题的形式),以改进其知识库的内容。 在此处了解详细信息。
多回合 有时需要其他信息来回答问题,以确定用户问题的最佳答案。 问答系统会向用户提出后续问题。
元数据 可与知识库中的每个问答对关联的附加信息(采用名称和值的形式)。 元数据可用于传递上下文和筛选结果。
同义词 可在知识库中互换使用的备用术语。

示例用例:

可以在多种场景中以及在各种行业中使用问答功能。 通常,信息检索用例最适合用于回答问题,其中通常只有一个或几个正确的用户问题的答案。 具有各种观点、世界观、地缘政治观点、争议性内容等的方案或主题将更加难以正确回答。 客户应注意,通过问答提供此类内容可能会产生负面情绪和反应,并导致负面宣传。 如果你确实提供了这种类型的内容,请考虑添加源属性,以允许用户自行评估答案。

建议进行问答的一些典型方案如下:

  • 客户支持: 在大多数客户支持方案中,常见问题会经常被问到。 通过问答,你可以从现有支持内容立即创建聊天机器人,此机器人可以充当处理客户查询的一线系统。 如果机器人无法回答问题,则其他组件可以帮助识别并标记问题进行人工干预。

  • 企业常见问题解答机器人: 信息检索对于企业员工来说是一个挑战。 内部常见问题解答机器人是帮助员工获取常见问题的解答的好工具。 问答功能使各部门(如人力资源或薪资管理)能够构建常见问题解答聊天机器人,以帮助员工。

  • 通过搜索即时答案: 许多搜索系统使用即时答案增强搜索结果,使用户能够立即访问与其查询相关的信息。 问题解答的解答可以与文档搜索的结果相结合,为最终用户提供即时答案体验。

选择其他用例时的注意事项

  • 避免高风险场景: 问答使用的机器学习算法根据训练数据来优化性能,但是,总会有一些边缘情况,在这些情况下,由于系统对用户查询的理解不佳,可能无法返回正确的答案。 使用问题解答功能设计方案时,请注意假正结果的可能性。 建议创建方案中询问的排名靠前的查询的数据集和相应的预期答案,并定期测试服务,了解响应的正确性。 例如:

    • 医疗: 这通常需要高精度,错误的信息可能会带来危及生命的后果。 请考虑医生助理机器人的示例,该机器人使用问答来了解患者的症状,并将其与常见疾病相匹配。 同样,任何旨在与精神健康问题患者(如抑郁症或焦虑)进行对话的机器人都必须非常小心地处理返回的反应。 问答有助于解析临床术语并提取有用的问答对,但它并不是为了设计、预期或提供用于创建医疗设备的目的,也不是为了设计或预期可作为专业医疗建议、诊断、治疗或判断的替代,因此不应用于这些用途。 客户需全权负责在其应用的最终用户中显示和/或获取适当的同意、免责声明、警告和确认。
  • 避免开放域方案: 问题解答旨在回答来自特定域知识库的问题,而不是开放式问题或域外问题。 将域外问题与问题解答结合使用会导致返回错误响应的风险。 例如:

    • 社交机器人: 面向非特定领域的通用聊天机器人在设计问答功能时很困难。 在这些情况下,用户意图和观点可以广泛范围(例如体育、时尚、政治和宗教)。 构建问答知识库最适合用于事实和/或内容发现。 对各种世界观主题使用问答可能很有挑战性,我们建议客户考虑更仔细地审查或策展此类内容。

    • 处理不适当的对话: 用户可能会启动与机器人的不当对话,包括脏话或仇恨言论。 机器人设计者必须非常谨慎地处理这些对话,确保能够以高准确度检测这些意图,并给出适当的响应。 很难在回答问题时构建一个全面的知识库,其中包含可能的不适当的话语的每个变体。 因此,最好使用基于规则的系统处理此类情况,例如,可以快速检查用户话语是否存在来自预处理的不适当的关键字阻止列表中的任何字词。 这不是问答服务的一部分,需要在问答服务的基础上进行开发。

  • 法律和法规注意事项:组织在使用任何 AI 服务和解决方案时需要评估潜在的特定法律和监管义务,这些义务可能不适合在每个行业或方案中使用。 此外,AI 服务或解决方案并未设计为按适用服务条款和相关行为准则禁止的方式使用,也不得按这类方式使用。

后续步骤