本页面涵盖了所有 LangChain 与 Microsoft Azure 及其他 Microsoft 产品的集成。
推荐:Microsoft Foundry我们建议在 聊天模型、大语言模型 (LLM) 和 嵌入模型 中统一使用 Microsoft Foundry。Foundry 资源类型是 Azure OpenAI 资源类型的超集,在保留 Azure OpenAI API 的同时,它提供了更广泛的模型目录、智能体服务和评估能力。如果你正在使用 Azure OpenAI 资源,可以 将其升级为 Foundry 资源,这样既能保留现有的 API 端点、状态和安全配置,又能获得 Foundry 的全部能力。借助 Azure OpenAI v1 API(自 2025 年 8 月起正式发布),你可以直接使用 langchain-openai 包,通过 Azure 端点和 API 密钥调用部署在 Microsoft Foundry 中的任何模型(包括 OpenAI、Llama、DeepSeek、Mistral 和 Phi),实现统一的接口。它还原生支持 Microsoft Entra ID 身份验证,并可访问最新功能,包括 Responses API 和 推理模型。从这里开始。对于智能体托管,请使用 Microsoft Foundry 托管智能体,在托管的智能体平台上部署自定义的 LangGraph 代码,该平台内置运行时、会话管理、身份验证和协议端点。示例和教程:
Azure 上的 ClaudeMicrosoft Foundry 还提供了对所有 Anthropic Claude 模型 的访问,包括 Opus、Sonnet 和 Haiku。Claude 模型通过专用的 Anthropic 原生端点提供服务,而不是 Azure OpenAI v1 API。请使用 langchain-anthropic 并指向你的 Foundry Anthropic 端点。

聊天模型

Microsoft 提供了三种通过 Azure 访问聊天模型的主要选项:
  1. Azure OpenAI(推荐)—— 通过单一接口访问部署在 Microsoft Foundry 中的任何模型(包括 OpenAI、Llama、DeepSeek、Mistral 和 Phi),并具备企业级功能,如通过 Microsoft Entra ID 实现的无密钥身份验证、区域数据驻留和专用网络。在 v1 API 上使用 ChatOpenAI,或者为传统部署使用 AzureChatOpenAI。 Azure OpenAI 还支持 Responses API,它允许你直接从聊天模型访问服务器端工具,如代码解释器、图像生成和文件搜索。
  2. Azure AI —— 推荐用于在更广泛的 Azure 生态系统中访问工具、存储和自定义中间件,并与你的聊天模型结合使用。
  3. Azure ML —— 允许使用 Azure 机器学习部署和管理自定义或微调的开源模型。

Azure OpenAI

要开始使用 Azure OpenAI,请创建一个 Azure 部署并安装 langchain-openai 包:
在 v1 API 上,直接使用 ChatOpenAI 连接到你的 Azure 端点——不需要 api_version:
对于传统的 Azure OpenAI API 版本,请使用 AzureChatOpenAI:
有关端到端设置、Entra ID 身份验证、工具调用和推理示例,请参阅 Azure ChatOpenAI 集成页面。

Responses API

Azure OpenAI 支持 Responses API,它提供有状态的对话、内置工具(网页搜索、文件搜索、代码解释器)和结构化的推理摘要。当你设置 reasoning 参数时,ChatOpenAI 会自动路由到 Responses API,或者你也可以通过 use_responses_api=True 显式选择使用它:
有关使用 Responses API 进行推理努力、推理摘要和流式传输的演练,请参阅 Azure ChatOpenAI 集成页面。

Azure AI

Azure AI Foundry 是更广泛的 Azure AI 平台。langchain-azure-ai 包允许你将 Azure 原生工具、存储和自定义中间件引入 LangChain 应用,并通过 AzureAIOpenAIApiChatModel 类暴露部署在 Foundry 中的聊天模型。
请参阅 用法示例。

大语言模型 (LLM)

Microsoft 提供了两种通过 Azure 访问大语言模型的主要选项:
  1. Azure OpenAI(推荐)—— 使用 AzureOpenAI 将部署在 Microsoft Foundry 中的任何模型(包括 OpenAI、Llama、DeepSeek、Mistral 和 Phi)作为补全式 LLM 访问。
  2. Azure ML —— 使用托管在 Azure 机器学习在线端点上的自定义或开源模型。

Azure OpenAI

请参阅 用法示例。

嵌入模型

Microsoft 提供了两种通过 Azure 访问嵌入模型的主要选项:
  1. Azure OpenAI(推荐)—— 使用部署在 Microsoft Foundry 中的嵌入模型(包括 OpenAI text-embedding-3-small、text-embedding-3-large 和 Cohere)配合 AzureOpenAIEmbeddings。
  2. Azure AI —— 推荐用于在更广泛的 Azure 生态系统中访问工具、存储和自定义中间件,并与你的嵌入模型结合使用。

Azure OpenAI

请参阅 用法示例。

Azure AI

请参阅 用法示例。

中间件

Azure AI 内容安全中间件

Azure AI Content Safety 提供了你可以通过中间件应用于 LangChain 智能体的防护栏。langchain-azure-ai 包目前导出了用于文本审核、图像审核、提示注入检测、受保护材料检测和事实一致性评估的中间件。
安装中间件包:
请参阅 Microsoft Foundry 中间件指南。

文档加载器

Azure Blob 存储

Azure Blob Storage 是 Microsoft 的云端对象存储解决方案。Blob 存储针对存储海量非结构化数据进行了优化。非结构化数据是指不符合特定数据模型或定义的数据,例如文本或二进制数据。
Azure Blob Storage 设计用于:
  • 直接向浏览器提供图像或文档服务。
  • 存储文件以供分布式访问。
  • 流式传输视频和音频。
  • 写入日志文件。
  • 存储用于备份和恢复、灾难恢复以及归档的数据。
  • 存储数据以供本地或 Azure 托管的服务进行分析。
请参阅 Azure Blob Storage 加载器的用法示例。

内存

Azure Cosmos DB 聊天消息历史记录

Azure Cosmos DB 为对话式 AI 应用程序提供聊天消息历史存储,使你能够以低延迟和高可用性来持久化和检索对话历史。
配置你的 Azure Cosmos DB 连接(同步或异步,使用访问密钥或 Microsoft Entra ID):
对于异步用法,请从同一个包导入 AsyncCosmosDBChatMessageHistory。

Azure Cosmos DB 语义缓存

AzureCosmosDBNoSqlSemanticCache 使用向量相似度将 LLM 响应缓存到 Azure Cosmos DB for NoSQL 中,当再次遇到语义相似的提示时,将返回缓存的结果。
对于异步用法,请导入 AsyncAzureCosmosDBNoSqlSemanticCache。

向量存储

Azure Cosmos DB

AI 智能体可以依赖 Azure Cosmos DB 作为统一的 内存系统 解决方案,享受速度、规模和简洁性。这项服务成功地 支撑了 OpenAI 的 ChatGPT 服务 实现动态扩展,具备高可靠性和低维护性。它由原子-记录-序列 (Atom-Record-Sequence) 引擎驱动,是全球首个提供无服务器模式的、全球分布式 NoSQL、关系型 和 向量数据库 服务。 以下是两个可以提供向量存储功能的可用 Azure Cosmos DB API。

Azure Cosmos DB for MongoDB (vCore)

Azure Cosmos DB for MongoDB vCore 让你能够轻松创建一个完全支持原生 MongoDB 的数据库。 你可以应用你的 MongoDB 经验,并通过将应用程序指向 MongoDB vCore API 账户的连接字符串,继续使用你喜欢的 MongoDB 驱动程序、SDK 和工具。 在 Azure Cosmos DB for MongoDB vCore 中使用向量搜索,可以将你的基于 AI 的应用程序与存储在 Azure Cosmos DB 中的数据无缝集成。
安装与设置
请参阅 详细配置说明。 我们需要安装 langchain-azure-ai 和 pymongo Python 包。
在 Microsoft Azure 上部署 Azure Cosmos DB
Azure Cosmos DB for MongoDB vCore 为开发人员提供了一个完全托管的、与 MongoDB 兼容的数据库服务,用于使用熟悉的架构构建现代应用程序。 使用 Cosmos DB for MongoDB vCore,开发人员在迁移现有应用程序或构建新应用程序时,可以享受原生 Azure 集成、低总拥有成本 (TCO) 以及熟悉的 vCore 架构带来的好处。 立即注册 免费开始。 请参阅 用法示例。

Azure Cosmos DB NoSQL

Azure Cosmos DB for NoSQL 现在以预览版形式提供向量索引和搜索功能。 此功能旨在处理高维向量,能够在任何规模下实现高效且准确的向量搜索。你现在可以将向量 直接存储在文档中,与数据并列。这意味着你数据库中的每个文档不仅包含传统的无模式数据, 还可以包含作为文档其他属性的高维向量。这种数据和向量的共置允许进行高效的索引和搜索, 因为向量存储在与其所代表数据相同的逻辑单元中。这简化了数据管理、AI 应用程序架构以及 基于向量的操作的效率。
安装与设置
请参阅 详细配置说明。 我们需要安装 langchain-azure-cosmosdb 和 azure-cosmos Python 包。
在 Microsoft Azure 上部署 Azure Cosmos DB
Azure Cosmos DB 为现代应用程序和智能工作负载提供解决方案,它响应迅速,具有动态和弹性的自动缩放功能。它在每个 Azure 区域都可用,并能自动将数据复制到更靠近用户的位置。它具有 SLA 保证的低延迟和高可用性。 立即注册 免费开始。 请参阅 用法示例。

Azure Database for PostgreSQL

Azure Database for PostgreSQL - 灵活服务器 是一项基于开源 Postgres 数据库引擎的关系型数据库服务。它是一项完全托管的数据库即服务,能够以可预测的性能、安全性、高可用性和动态可扩展性处理关键任务工作负载。
请参阅 Azure Database for PostgreSQL 的 设置说明。 只需使用来自你的 Azure 门户的 连接字符串。 由于 Azure Database for PostgreSQL 是开源的 Postgres,你可以使用 LangChain 的 Postgres 支持 来连接到 Azure Database for PostgreSQL。

Azure SQL 数据库

Azure SQL Database 是一项强大的服务,它结合了可扩展性、安全性和高可用性,提供了现代数据库解决方案的所有优势。它还提供专用的向量数据类型和内置函数,简化了在关系型数据库中直接存储和查询向量嵌入的过程。这消除了对单独向量数据库及相关集成的需求,在降低整体复杂性的同时提高了你解决方案的安全性。
通过利用你现有的 SQL Server 数据库进行向量搜索,你可以增强数据能力,同时最大限度地减少开支,并避免向新系统过渡的挑战。
安装与设置
请参阅 详细配置说明。 我们需要安装 langchain-sqlserver Python 包。
在 Microsoft Azure 上部署 Azure SQL DB
立即注册 免费开始。 请参阅 用法示例。

向量存储

Azure Database for PostgreSQL

Azure Database for PostgreSQL - 灵活服务器 是一项基于开源 Postgres 数据库引擎的关系型数据库服务。它是一项完全托管的数据库即服务,能够以可预测的性能、安全性、高可用性和动态可扩展性处理关键任务工作负载。
请参阅 Azure Database for PostgreSQL 的 设置说明。 你需要在你的数据库中 启用 pgvector 扩展 才能将 Postgres 用作向量存储。一旦启用该扩展,你就可以使用 LangChain 中的 PGVector 来连接到 Azure Database for PostgreSQL。 请参阅 用法示例。只需使用来自你的 Azure 门户的 连接字符串。

工具

Microsoft Foundry 工具

Microsoft Foundry 暴露了用于 Azure AI Content Understanding、Document Intelligence、Image Analysis 和 Text Analytics for Health 的 LangChain 服务工具。 使用 tools 额外依赖项安装包:
请参阅 Microsoft Foundry 工具指南。

图像生成工具

Microsoft Foundry Models 在目录中提供了多个可用于图像生成的模型。 请参阅 Microsoft Foundry 工具指南。

转录工具

Microsoft Foundry Models 在目录中提供了 Whisper 模型,可用于语音转文本转录。 请参阅 Microsoft Foundry 工具指南。

代码解释器工具(服务器端)

使用代码解释器工具在沙盒容器中运行服务器端的 Python 代码。 请参阅 Microsoft Foundry 工具指南。

网络搜索工具(服务器端)

搜索互联网以获取当前信息和来源。 请参阅 Microsoft Foundry 工具指南。

文件搜索工具(服务器端)

在向量存储中搜索相关的文档内容。 请参阅 Microsoft Foundry 工具指南。

图像生成工具(服务器端)

在 Azure AI Foundry 中使用 GPT 图像模型在服务器端生成或编辑图像。 请参阅 Microsoft Foundry 工具指南。

MCP 工具(服务器端)

访问外部的 Model Context Protocol (MCP) 服务器。 请参阅 Microsoft Foundry 工具指南。

Azure Container Apps 动态会话

我们需要从 Azure Container Apps 服务获取 POOL_MANAGEMENT_ENDPOINT 环境变量。 请参阅 Azure 动态会话设置说明。 我们需要安装一个 Python 包。
请参阅 用法示例。

Azure Logic Apps

触发 Azure Logic Apps 工作流以自动化业务流程和集成。 使用 tools 额外依赖项安装包:
请参阅 Azure Logic Apps 集成指南。

工具包

Microsoft Foundry 项目工具箱

通过 Model Context Protocol (MCP) 从 Azure AI Foundry 工具箱动态加载工具。 使用 tools 额外依赖项安装包:
请参阅 Azure AI Foundry 工具箱指南。

Microsoft Foundry 工具(原 Azure AI Services)

安装集成包:
请参阅 用法示例。
AzureAIServicesToolkit 工具包包含以下工具:

运行时

Microsoft Foundry 托管智能体

Microsoft Foundry 托管智能体 在托管的运行时中运行自定义的 LangGraph 代码。使用 langchain_azure_ai.agents.hosting 包来暴露编译后的 LangGraph 图,而 Foundry 会负责管理运行时、会话、扩展、身份验证和协议端点。
LangGraph 托管支持需要 langchain-azure-ai[hosting]>=1.2.8。
在开始之前,你需要一个 Azure 订阅、一个 Foundry 项目、一个已部署的聊天模型、Python 3.10 或更高版本以及 Azure CLI 身份验证。部署智能体还需要在项目中拥有 Foundry Project Manager 角色。 根据客户端与智能体的交互方式选择托管协议: 要托管和部署一个图:
  1. 将编译后的图传递给你所选协议的主机服务器。
  2. 设置 FOUNDRY_PROJECT_ENDPOINT 和 FOUNDRY_MODEL_NAME,然后在本地运行并测试主机。
  3. 使用 azd ai agent init 初始化一个托管智能体项目,使用 azd ai agent run 测试其容器,并使用 azd provision 和 azd deploy 进行部署。你也可以使用 Foundry Toolkit Visual Studio Code 扩展进行部署。
Microsoft Learn 指南包含了两种协议、对话状态、人在回路流程、测试、部署和故障排除的完整示例。