Azure 上的 ClaudeMicrosoft Foundry 还提供了对所有 Anthropic Claude 模型 的访问,包括 Opus、Sonnet 和 Haiku。Claude 模型通过专用的 Anthropic 原生端点提供服务,而不是 Azure OpenAI v1 API。请使用
langchain-anthropic 并指向你的 Foundry Anthropic 端点。聊天模型
Microsoft 提供了三种通过 Azure 访问聊天模型的主要选项:-
Azure OpenAI(推荐)—— 通过单一接口访问部署在 Microsoft Foundry 中的任何模型(包括 OpenAI、Llama、DeepSeek、Mistral 和 Phi),并具备企业级功能,如通过 Microsoft Entra ID 实现的无密钥身份验证、区域数据驻留和专用网络。在 v1 API 上使用
ChatOpenAI,或者为传统部署使用AzureChatOpenAI。 Azure OpenAI 还支持 Responses API,它允许你直接从聊天模型访问服务器端工具,如代码解释器、图像生成和文件搜索。 - Azure AI —— 推荐用于在更广泛的 Azure 生态系统中访问工具、存储和自定义中间件,并与你的聊天模型结合使用。
- Azure ML —— 允许使用 Azure 机器学习部署和管理自定义或微调的开源模型。
Azure OpenAI
要开始使用 Azure OpenAI,请创建一个 Azure 部署并安装langchain-openai 包:
ChatOpenAI 连接到你的 Azure 端点——不需要 api_version:
- Entra ID(推荐)
- API 密钥
AzureChatOpenAI:
Responses API
Azure OpenAI 支持 Responses API,它提供有状态的对话、内置工具(网页搜索、文件搜索、代码解释器)和结构化的推理摘要。当你设置reasoning 参数时,ChatOpenAI 会自动路由到 Responses API,或者你也可以通过 use_responses_api=True 显式选择使用它:
- Entra ID(推荐)
- API 密钥
Azure AI
Azure AI Foundry 是更广泛的 Azure AI 平台。langchain-azure-ai包允许你将 Azure 原生工具、存储和自定义中间件引入 LangChain 应用,并通过AzureAIOpenAIApiChatModel类暴露部署在 Foundry 中的聊天模型。
大语言模型 (LLM)
Microsoft 提供了两种通过 Azure 访问大语言模型的主要选项:- Azure OpenAI(推荐)—— 使用
AzureOpenAI将部署在 Microsoft Foundry 中的任何模型(包括 OpenAI、Llama、DeepSeek、Mistral 和 Phi)作为补全式 LLM 访问。 - Azure ML —— 使用托管在 Azure 机器学习在线端点上的自定义或开源模型。
Azure OpenAI
请参阅 用法示例。- Entra ID(推荐)
- API 密钥
嵌入模型
Microsoft 提供了两种通过 Azure 访问嵌入模型的主要选项:- Azure OpenAI(推荐)—— 使用部署在 Microsoft Foundry 中的嵌入模型(包括 OpenAI
text-embedding-3-small、text-embedding-3-large和 Cohere)配合AzureOpenAIEmbeddings。 - Azure AI —— 推荐用于在更广泛的 Azure 生态系统中访问工具、存储和自定义中间件,并与你的嵌入模型结合使用。
Azure OpenAI
请参阅 用法示例。- Entra ID(推荐)
- API 密钥
Azure AI
中间件
Azure AI 内容安全中间件
Azure AI Content Safety 提供了你可以通过中间件应用于 LangChain 智能体的防护栏。langchain-azure-ai 包目前导出了用于文本审核、图像审核、提示注入检测、受保护材料检测和事实一致性评估的中间件。
安装中间件包:
文档加载器
Azure Blob 存储
Azure Blob Storage 是 Microsoft 的云端对象存储解决方案。Blob 存储针对存储海量非结构化数据进行了优化。非结构化数据是指不符合特定数据模型或定义的数据,例如文本或二进制数据。
Azure Blob Storage 设计用于:
- 直接向浏览器提供图像或文档服务。
- 存储文件以供分布式访问。
- 流式传输视频和音频。
- 写入日志文件。
- 存储用于备份和恢复、灾难恢复以及归档的数据。
- 存储数据以供本地或 Azure 托管的服务进行分析。
内存
Azure Cosmos DB 聊天消息历史记录
Azure Cosmos DB 为对话式 AI 应用程序提供聊天消息历史存储,使你能够以低延迟和高可用性来持久化和检索对话历史。
AsyncCosmosDBChatMessageHistory。
Azure Cosmos DB 语义缓存
AzureCosmosDBNoSqlSemanticCache 使用向量相似度将 LLM 响应缓存到 Azure Cosmos DB for NoSQL 中,当再次遇到语义相似的提示时,将返回缓存的结果。
AsyncAzureCosmosDBNoSqlSemanticCache。
向量存储
Azure Cosmos DB
AI 智能体可以依赖 Azure Cosmos DB 作为统一的 内存系统 解决方案,享受速度、规模和简洁性。这项服务成功地 支撑了 OpenAI 的 ChatGPT 服务 实现动态扩展,具备高可靠性和低维护性。它由原子-记录-序列 (Atom-Record-Sequence) 引擎驱动,是全球首个提供无服务器模式的、全球分布式 NoSQL、关系型 和 向量数据库 服务。 以下是两个可以提供向量存储功能的可用 Azure Cosmos DB API。Azure Cosmos DB for MongoDB (vCore)
Azure Cosmos DB for MongoDB vCore 让你能够轻松创建一个完全支持原生 MongoDB 的数据库。 你可以应用你的 MongoDB 经验,并通过将应用程序指向 MongoDB vCore API 账户的连接字符串,继续使用你喜欢的 MongoDB 驱动程序、SDK 和工具。 在 Azure Cosmos DB for MongoDB vCore 中使用向量搜索,可以将你的基于 AI 的应用程序与存储在 Azure Cosmos DB 中的数据无缝集成。
安装与设置
请参阅 详细配置说明。 我们需要安装langchain-azure-ai 和 pymongo Python 包。
在 Microsoft Azure 上部署 Azure Cosmos DB
Azure Cosmos DB for MongoDB vCore 为开发人员提供了一个完全托管的、与 MongoDB 兼容的数据库服务,用于使用熟悉的架构构建现代应用程序。 使用 Cosmos DB for MongoDB vCore,开发人员在迁移现有应用程序或构建新应用程序时,可以享受原生 Azure 集成、低总拥有成本 (TCO) 以及熟悉的 vCore 架构带来的好处。 立即注册 免费开始。 请参阅 用法示例。Azure Cosmos DB NoSQL
Azure Cosmos DB for NoSQL 现在以预览版形式提供向量索引和搜索功能。 此功能旨在处理高维向量,能够在任何规模下实现高效且准确的向量搜索。你现在可以将向量 直接存储在文档中,与数据并列。这意味着你数据库中的每个文档不仅包含传统的无模式数据, 还可以包含作为文档其他属性的高维向量。这种数据和向量的共置允许进行高效的索引和搜索, 因为向量存储在与其所代表数据相同的逻辑单元中。这简化了数据管理、AI 应用程序架构以及 基于向量的操作的效率。
安装与设置
请参阅 详细配置说明。 我们需要安装langchain-azure-cosmosdb 和 azure-cosmos Python 包。
在 Microsoft Azure 上部署 Azure Cosmos DB
Azure Cosmos DB 为现代应用程序和智能工作负载提供解决方案,它响应迅速,具有动态和弹性的自动缩放功能。它在每个 Azure 区域都可用,并能自动将数据复制到更靠近用户的位置。它具有 SLA 保证的低延迟和高可用性。 立即注册 免费开始。 请参阅 用法示例。Azure Database for PostgreSQL
Azure Database for PostgreSQL - 灵活服务器 是一项基于开源 Postgres 数据库引擎的关系型数据库服务。它是一项完全托管的数据库即服务,能够以可预测的性能、安全性、高可用性和动态可扩展性处理关键任务工作负载。请参阅 Azure Database for PostgreSQL 的 设置说明。 只需使用来自你的 Azure 门户的 连接字符串。 由于 Azure Database for PostgreSQL 是开源的 Postgres,你可以使用 LangChain 的 Postgres 支持 来连接到 Azure Database for PostgreSQL。
Azure SQL 数据库
Azure SQL Database 是一项强大的服务,它结合了可扩展性、安全性和高可用性,提供了现代数据库解决方案的所有优势。它还提供专用的向量数据类型和内置函数,简化了在关系型数据库中直接存储和查询向量嵌入的过程。这消除了对单独向量数据库及相关集成的需求,在降低整体复杂性的同时提高了你解决方案的安全性。通过利用你现有的 SQL Server 数据库进行向量搜索,你可以增强数据能力,同时最大限度地减少开支,并避免向新系统过渡的挑战。
安装与设置
请参阅 详细配置说明。 我们需要安装langchain-sqlserver Python 包。
在 Microsoft Azure 上部署 Azure SQL DB
立即注册 免费开始。 请参阅 用法示例。向量存储
Azure Database for PostgreSQL
Azure Database for PostgreSQL - 灵活服务器 是一项基于开源 Postgres 数据库引擎的关系型数据库服务。它是一项完全托管的数据库即服务,能够以可预测的性能、安全性、高可用性和动态可扩展性处理关键任务工作负载。请参阅 Azure Database for PostgreSQL 的 设置说明。 你需要在你的数据库中 启用 pgvector 扩展 才能将 Postgres 用作向量存储。一旦启用该扩展,你就可以使用 LangChain 中的 PGVector 来连接到 Azure Database for PostgreSQL。 请参阅 用法示例。只需使用来自你的 Azure 门户的 连接字符串。
工具
Microsoft Foundry 工具
Microsoft Foundry 暴露了用于 Azure AI Content Understanding、Document Intelligence、Image Analysis 和 Text Analytics for Health 的 LangChain 服务工具。 使用tools 额外依赖项安装包:
图像生成工具
Microsoft Foundry Models 在目录中提供了多个可用于图像生成的模型。 请参阅 Microsoft Foundry 工具指南。转录工具
Microsoft Foundry Models 在目录中提供了 Whisper 模型,可用于语音转文本转录。 请参阅 Microsoft Foundry 工具指南。代码解释器工具(服务器端)
使用代码解释器工具在沙盒容器中运行服务器端的 Python 代码。 请参阅 Microsoft Foundry 工具指南。网络搜索工具(服务器端)
搜索互联网以获取当前信息和来源。 请参阅 Microsoft Foundry 工具指南。文件搜索工具(服务器端)
在向量存储中搜索相关的文档内容。 请参阅 Microsoft Foundry 工具指南。图像生成工具(服务器端)
在 Azure AI Foundry 中使用 GPT 图像模型在服务器端生成或编辑图像。 请参阅 Microsoft Foundry 工具指南。MCP 工具(服务器端)
访问外部的 Model Context Protocol (MCP) 服务器。 请参阅 Microsoft Foundry 工具指南。Azure Container Apps 动态会话
我们需要从 Azure Container Apps 服务获取POOL_MANAGEMENT_ENDPOINT 环境变量。
请参阅 Azure 动态会话设置说明。
我们需要安装一个 Python 包。
Azure Logic Apps
触发 Azure Logic Apps 工作流以自动化业务流程和集成。 使用tools 额外依赖项安装包:
工具包
Microsoft Foundry 项目工具箱
通过 Model Context Protocol (MCP) 从 Azure AI Foundry 工具箱动态加载工具。 使用tools 额外依赖项安装包:
Microsoft Foundry 工具(原 Azure AI Services)
安装集成包:AzureAIServicesToolkit 工具包包含以下工具:
- 图像分析:AzureAIImageAnalysisTool
- 文档智能:AzureAIDocumentIntelligenceTool
- 语音转文本:AzureAISpeechToTextTool
- 文本转语音:AzureAITextToSpeechTool
- 医疗文本分析:AzureAITextAnalyticsHealthTool
运行时
Microsoft Foundry 托管智能体
Microsoft Foundry 托管智能体 在托管的运行时中运行自定义的 LangGraph 代码。使用langchain_azure_ai.agents.hosting 包来暴露编译后的 LangGraph 图,而 Foundry 会负责管理运行时、会话、扩展、身份验证和协议端点。
LangGraph 托管支持需要
langchain-azure-ai[hosting]>=1.2.8。
要托管和部署一个图:
- 将编译后的图传递给你所选协议的主机服务器。
- 设置
FOUNDRY_PROJECT_ENDPOINT和FOUNDRY_MODEL_NAME,然后在本地运行并测试主机。 - 使用
azd ai agent init初始化一个托管智能体项目,使用azd ai agent run测试其容器,并使用azd provision和azd deploy进行部署。你也可以使用 Foundry Toolkit Visual Studio Code 扩展进行部署。
Connect these docs to Claude, VSCode, and more via MCP for real-time answers.

