从 Unity 目录和市场获取生成式 AI 和 LLM 模型

Azure Databricks 包括在 Unity 目录中选择高质量的生成 AI 和 LLM 基础模型。 此外，还可以通过 Databricks Marketplace 从外部提供商安装和部署模型。 本文介绍如何使用这些模型并将其合并到推理工作流中。 这些模型允许你访问最先进的 AI 功能，从而节省构建自己的自定义模型所需的时间和费用。

有关在 Unity 目录中使用自己的自定义模型的信息，请参阅管理 Unity 目录中的模型生命周期。

在 Unity 目录中查找基础模型

在为马赛克 AI 模型服务启用的区域，Azure Databricks 预安装了一系列最先进的基础模型。 这些模型具有宽松的许可证，并且已针对使用预配的吞吐量基础模型 API 提供服务进行了优化。 请参阅 适用的模型开发人员许可证和条款。

Databricks 建议使用这些模型的 基础 版本来微调任务，并使用 指令 版本进行部署和模型服务操作。

这些模型可直接在架构 system (ai) 中的目录 system.ai 下从目录资源管理器获取。

只需单击一下即可为这些模型提供服务，也可以将它们直接合并到批处理推理工作流中。 若要提供模型，请单击目录中的模型名称以打开模型页，然后单击“ 服务此模型”。 有关模型服务的详细信息，请参阅 使用马赛克 AI 模型服务部署模型。 有关模型服务支持的区域列表，请参阅区域可用性。

默认情况下，system.ai 中的模型可供所有帐户用户使用。 Unity 目录元存储管理员可以限制对这些模型的访问。 请参阅 Unity Catalog 特权和安全对象。

在 Databricks 市场中查找模型

除了 system.ai 架构中内置的 Databricks 提供的模型外，还可以在 Databricks Marketplace 中找到并安装来自外部提供程序的模型。 可以将 Databricks Marketplace 中的模型列表安装到 Unity Catalog 中，然后像使用自己的模型一样，在列表中部署模型以执行推理任务。

有关说明，请参阅访问 Databricks Marketplace（启用了 Unity Catalog 的工作区）中的数据产品。