评估、部署和测试微调的基础模型

从 Azure 机器学习中的模型目录中微调基础模型时，可以评估模型并将其部署，以便轻松测试和使用模型。

评估经过微调的模型

若要确定优化后的模型是否按预期执行，可以查看训练和评估指标。

提交要微调的模型时，Azure 机器学习会在试验中创建一个新的管道作业。 管道作业包含一个组件，该组件表示模型的微调。 可以通过选择已完成的管道作业来分析作业的日志、指标和输出，并通过选择特定的微调组件来了解详细信息。

部署优化后的模型

要测试并使用经过微调的模型，可以将模型部署到终结点。

Azure 机器学习中的 终结点 是一个 应用程序编程接口 （API），它公开经过训练或微调的模型，使用户或应用程序能够基于新数据进行预测。

Azure 机器学习中有两种类型的终结点：

• 实时 端点：旨在处理即时或动态预测。
• 批处理 终结点：已针对一次性处理大量数据进行优化。

由于实时终结点允许获取即时预测，因此这些终结点也是测试模型预测的理想终结点。

使用 Azure 机器学习工作室注册模型

若要使用 Azure 机器学习工作室部署微调模型，可以使用微调作业的输出。

Azure 机器学习使用 MLflow 跟踪作业和日志指标和模型文件。 由于 MLflow 与 Azure 机器学习工作室集成，因此只需最少的努力即可从作业部署模型。

首先，需要从作业输出注册模型。 导航到作业概述以查找 + 注册模型 选项。

已注册的模型类型为 MLflow，Azure 机器学习会自动填充包含模型文件的文件夹。 需要为已注册的模型和版本提供名称（可选）。

使用 Azure 机器学习工作室部署模型

在 Azure 机器学习工作区中注册模型后，可以导航到模型概述并将其部署到实时或批处理终结点。

例如，可以通过提供以下方法将模型部署到实时终结点：

• 虚拟机：终结点使用的计算。
• 实例计数：要用于部署的实例数。
• 终结点：将模型部署到新的或现有的终结点。
• 终结点名称：用于生成终结点 URL。
• 部署名称：已部署到终结点的模型名称。

在 Azure 机器学习工作室中测试模型

将模型部署到实时终结点后，可以在 Azure 机器学习工作室中快速测试模型。

导航到终结点并浏览 “测试 ”选项卡。

当实时终结点用作 API 时，它需要 JSON 格式的输入数据。 “测试”选项卡中提供了预期输出的示例：

{
  "input_data": {
    "columns": [
      "input_string"
    ],
    "index": [],
    "data": []
  }
}

测试数据的格式应类似于训练数据，不包括标签列。 例如，如果要测试针对文本分类微调的模型，需要向终结点提供一列：要分类的句子：

{
  "input_data": {
    "columns": [
      "input_string"
    ],
    "index": [0, 1],
    "data": [["This would be the first sentence you want to classify."], ["This would be the second sentence you want to classify."]]
  }
}

可以在工作室中输入任何测试数据，然后选择 “测试 ”以将数据发送到终结点。 结果几乎立即显示在 “测试结果 ”下。