通过

你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。

Azure AI 推理 SDK 支持的编程语言

部署到 Azure AI Foundry 模型的所有模型都支持 Azure AI 模型推理 API 及其关联的 SDK 系列。

若要使用这些 SDK，请将它们连接到 Azure AI 模型推理 URI（通常采用形式 https://<resource-name>.services.ai.azure.com/models）。

Azure AI 推理包

Azure AI 推理包允许使用部署到 Azure AI Foundry 资源的所有模型，并轻松地将模型部署从一个模型切换到另一个模型。 Azure AI 推理包是 Azure AI Foundry SDK 的一部分。

语言 文档 包装 例子
C# 引用 azure-ai-inference （NuGet） C# 示例
Java 引用 azure-ai-inference （Maven） Java 示例
JavaScript 引用 @azure/ai-inference （npm） JavaScript 示例
Python 引用 azure-ai-inference （PyPi） Python 示例

集成

Framework 语言 文档 包装 例子
LangChain Python 引用 langchain-azure-ai （PyPi） Python 示例
Llama-Index Python 引用 llama-index-llms-azure-inference （PyPi）
llama-index-embeddings-azure-inference （PyPi）		 Python 示例
语义内核 Python 引用 semantic-kernel[azure] （PyPi） Python 示例
AutoGen Python 引用 autogen-ext[azure] （PyPi） 快速入门

局限性

Azure AI Foundry 不支持 Cohere SDK 或 Mistral SDK。

后续步骤