本页概述了可用于在 Azure Databricks 上开发生成 AI 应用的工具，包括生成、部署和管理生成 AI 应用。
提供和查询生成型人工智能模型
从 LLM 提供商（如 OpenAI 和 Anthropic）提供一组特选的生成 AI 模型，并通过安全、可扩展的 API 进行提供。
| Feature | Description |
|---|---|
| 基础模型 | 提供第一代 AI 模型，包括开源和第三方模型，如 Meta Llama、 人类克劳德、 OpenAI GPT 等。 |
构建企业级 AI 代理
生成和部署自己的代理，包括工具调用代理、检索扩充的生成应用和多代理系统。
| Feature | Description |
|---|---|
| AI实验室（无代码） | 在无代码环境中原型和测试 AI 代理。 在生成用于部署的代码之前，快速试验代理行为和工具集成。 |
| Mosaic AI 代理框架 | 在 Python 中创作、部署和评估代理。 支持使用任何创作库（包括 LangChain、LangGraph 和纯 Python 代码代理）编写的代理。 支持 Unity Catalog 用于治理，同时支持 MLflow 用于跟踪。 |
| 代理砖块 | 使用简单的界面生成和优化特定于域的 AI 代理系统。 专注于您的数据和指标，而 Agent Bricks 则优化实施过程。 |
评估、调试和优化代理
使用评估和跟踪工具跟踪代理性能、收集反馈并推动质量改进。
| Feature | Description |
|---|---|
| 代理评估 | 使用代理评估和 MLflow 来衡量质量、成本和延迟。 通过内置的评审应用收集利益干系人和主题专家的反馈，并使用 LLM 评委来识别和解决质量问题。 |
| MLflow 跟踪 | 使用 MLflow 跟踪实现端到端可观测性。 记录代理执行的每个步骤，以便于在开发和生产中轻松调试、监视和审核代理行为。 |
将 AI 代理投入实际应用
使用内置的可缩放终结点、可观测性和治理在生产环境中部署和管理代理。
| Task | Description |
|---|---|
| 记录和注册代理 | 用于治理和生命周期管理的 Unity 目录中的日志代理代码、配置和项目。 |
| 部署代理 | 将代理部署为托管的、可扩展的终端节点。 |
| 监视代理 | 在脱机评估和联机监视中使用相同的评估配置（LLM 法官和自定义指标）。 |