LLM 网关

使用一个 LangSmith API 密钥调用已配置提供商的模型。通过更改模型 ID 即可切换提供商，而 LLM 网关会跟踪每一次调用并应用集中化的治理策略。

Beta: LLM 网关目前处于 Beta 测试阶段。

发起您的第一个请求

管理员只需为您的工作区执行一次启用网关、添加提供商密钥并授权访问的操作。设置完成后，开发者只需一个工作区范围的 LangSmith API 密钥即可。

设置您的密钥并发起一个标准的 Chat Completions 请求。此示例假设工作区已有一个 Anthropic 提供商密钥：

export LANGSMITH_API_KEY="lsv2_..._....cbed3e"

curl https://gateway.smith.langchain.com/v1/chat/completions \
    -H "Authorization: Bearer $LANGSMITH_API_KEY" \
    -H "Content-Type: application/json" \
    -d '{"model":"anthropic/claude-sonnet-4-6","messages":[{"role":"user","content":"Hello!"}]}'

一个 200 响应确认网关、您的 LangSmith API 密钥、权限和所选的提供商密钥配置正确。有关 Python、TypeScript、其他 API 格式和故障排除，请参阅快速入门指南。

网关提供的功能

一个密钥，多个提供商： 开发者使用 LangSmith API 密钥进行认证，无需在本地存储提供商密钥。
一种请求格式，多个模型： 使用 Chat Completions、Messages 或 Responses 格式调用已配置提供商的模型。
内置可观测性： 每一次网关调用都会作为一个 LangSmith 跟踪出现。
集中治理： 应用支出限制、速率限制和数据保护策略。

使用标准 API

选择您的应用程序已使用的请求格式。该格式不限制您可以调用哪个已配置的提供商。

API 格式	端点
OpenAI Chat Completions	`POST /v1/chat/completions`
Anthropic Messages	`POST /v1/messages`
OpenAI Responses	`POST /v1/responses`

将 model 设置为带有提供商前缀的自带密钥 ID，例如 openai/gpt-5.4-mini 或 anthropic/claude-opus-5，或者使用网关额度模型标识，例如 moonshotai/kimi-k3。模型 ID 决定了上游路由。当所选提供商使用不同的原生格式时，网关会转换请求和响应。有关基础 URL、示例、转换行为和区域端点，请参阅 API 格式。

选择凭证管理方式

选项	上游凭证	设置与计费
使用您自己的提供商账户	管理员将提供商密钥存储在工作区的提供商密钥中。	提供商将使用量计费到您的提供商账户。
网关额度	LangChain 拥有上游凭证。	无需提供商密钥。调用将计费到您的 LangSmith 账户。

进阶内容

快速入门

使用 cURL、Python 或 TypeScript 发起请求，然后查看其跟踪记录。

管理员设置

启用网关、添加提供商凭证并授予开发者访问权限。

需要提供商原生的请求和响应行为吗？使用直接模型访问来绕过标准化层。这是标准 API 的高级替代方案。如有其他问题，请联系 LangChain 支持团队。

Connect these docs to Claude, VSCode, and more via MCP for real-time answers.

Edit this page on GitHub or file an issue.

Core capabilities

Administration and governance

Advanced

发起您的第一个请求

网关提供的功能

使用标准 API

选择凭证管理方式

进阶内容

快速入门

管理员设置

​发起您的第一个请求

​网关提供的功能

​使用标准 API

​选择凭证管理方式

​进阶内容

快速入门

管理员设置

发起您的第一个请求

网关提供的功能

使用标准 API

选择凭证管理方式

进阶内容