API 格式

标准 LLM Gateway API 支持三种请求和响应格式。选择你的应用已经使用的格式，然后通过同一个端点调用自带密钥（BYOK）模型或 Gateway Credits 模型。

Beta： LLM Gateway 目前处于测试阶段。

比较 API 格式

API 格式	基础 URL	提示端点	兼容的客户端
OpenAI Chat Completions	`https://gateway.smith.langchain.com/v1`	`POST /chat/completions`	兼容 OpenAI 的 Chat Completions 客户端
Anthropic Messages	`https://gateway.smith.langchain.com`	`POST /v1/messages`	Anthropic Messages 客户端
OpenAI Responses	`https://gateway.smith.langchain.com/v1`	`POST /responses`	兼容 OpenAI 的 Responses 客户端

所有格式都使用工作区范围的 LangSmith API 密钥进行身份验证。将其作为提供商 API 密钥传递，或作为 Authorization: Bearer 令牌传递。对于自带密钥模型，将 model 设置为 <provider>/<model>，例如 openai/gpt-5.4-mini 或 anthropic/claude-sonnet-4-6。对于 Gateway Credits 模型，传递受支持的模型名称，例如 moonshotai/kimi-k3。

使用 Chat Completions

将兼容 OpenAI 的客户端指向 https://gateway.smith.langchain.com/v1。如需了解完整的请求和响应架构，请参阅 OpenAI Chat Completions API。

curl https://gateway.smith.langchain.com/v1/chat/completions \
    -H "Authorization: Bearer $LANGSMITH_API_KEY" \
    -H "Content-Type: application/json" \
    -d '{"model":"anthropic/claude-sonnet-4-6","messages":[{"role":"user","content":"Hello!"}]}'

import os

from openai import OpenAI

client = OpenAI(
    base_url="https://gateway.smith.langchain.com/v1",
    api_key=os.environ["LANGSMITH_API_KEY"],
)
response = client.chat.completions.create(
    model="anthropic/claude-sonnet-4-6",
    messages=[{"role": "user", "content": "你好！"}],
)

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://gateway.smith.langchain.com/v1",
  apiKey: process.env.LANGSMITH_API_KEY,
});
const response = await client.chat.completions.create({
  model: "anthropic/claude-sonnet-4-6",
  messages: [{ role: "user", content: "你好！" }],
});

使用 Messages

将 Anthropic 客户端指向 https://gateway.smith.langchain.com。如需了解完整的请求和响应架构，请参阅 Anthropic Messages API。

curl https://gateway.smith.langchain.com/v1/messages \
    -H "Authorization: Bearer $LANGSMITH_API_KEY" \
    -H "Content-Type: application/json" \
    -d '{"model":"openai/gpt-5.4-mini","max_tokens":1024,"messages":[{"role":"user","content":"Hello!"}]}'

import os

import anthropic

client = anthropic.Anthropic(
    base_url="https://gateway.smith.langchain.com",
    api_key=os.environ["LANGSMITH_API_KEY"],
)
message = client.messages.create(
    model="openai/gpt-5.4-mini",
    max_tokens=1024,
    messages=[{"role": "user", "content": "你好！"}],
)

import Anthropic from "@anthropic-ai/sdk";

const client = new Anthropic({
  baseURL: "https://gateway.smith.langchain.com",
  apiKey: process.env.LANGSMITH_API_KEY,
});
const message = await client.messages.create({
  model: "openai/gpt-5.4-mini",
  max_tokens: 1024,
  messages: [{ role: "user", content: "你好！" }],
});

使用 Responses

将兼容 OpenAI 的客户端指向 https://gateway.smith.langchain.com/v1。如需了解完整的请求和响应架构，请参阅 OpenAI Responses API。

curl https://gateway.smith.langchain.com/v1/responses \
    -H "Authorization: Bearer $LANGSMITH_API_KEY" \
    -H "Content-Type: application/json" \
    -d '{"model":"anthropic/claude-sonnet-4-6","input":"Hello!"}'

import os

from openai import OpenAI

client = OpenAI(
    base_url="https://gateway.smith.langchain.com/v1",
    api_key=os.environ["LANGSMITH_API_KEY"],
)
response = client.responses.create(
    model="anthropic/claude-sonnet-4-6",
    input="你好！",
)

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://gateway.smith.langchain.com/v1",
  apiKey: process.env.LANGSMITH_API_KEY,
});
const response = await client.responses.create({
  model: "anthropic/claude-sonnet-4-6",
  input: "你好！",
});

了解翻译行为

端点决定应用发送和接收的格式。模型 ID 决定上游提供商。

当提供商原生支持所选格式时，网关会保留该格式。
否则，网关会将请求转换为提供商支持的格式，并将响应转换回来，其中也包括流式响应。
对于无法在目标提供商格式中表示的字段，翻译可能会拒绝这些字段。如果需要提供商原生行为，请使用直接访问模型。

无论使用哪种格式，每个请求都会解析到相同的提供商密钥、策略和追踪配置。

列出模型

调用 GET /v1/models，列出工作区中已配置的提供商提供的模型，以及 Gateway Credits 中的模型。网关会返回一个统一的、兼容 OpenAI 的列表：

curl https://gateway.smith.langchain.com/v1/models \
    -H "Authorization: Bearer $LANGSMITH_API_KEY"

{
  "object": "list",
  "data": [
    {"id": "openai/gpt-5.4-mini", "object": "model"},
    {"id": "fireworks/accounts/fireworks/models/glm-5p2", "object": "model"},
    {"id": "anthropic/claude-opus-5", "object": "model"},
    {"id": "moonshotai/kimi-k3", "object": "model"}
  ]
}

自带密钥模型 ID 使用 <provider>/<model> 格式。托管模型使用响应中显示的 slug。发起调用时，按显示的内容原样传递任一 ID。未配置密钥的自带密钥提供商不会出现在列表中；托管模型不需要提供商密钥。

使用区域网关

将 gateway.smith.langchain.com 替换为 LangSmith 区域对应的主机名：

区域	网关主机名
GCP US	`gateway.smith.langchain.com`
GCP EU	`eu.gateway.smith.langchain.com`
GCP APAC	`apac.gateway.smith.langchain.com`
AWS US	`aws.gateway.smith.langchain.com`

为所选 API 格式保留相同的路径。

处理错误

Status or symptom	含义
`400 Bad Request`	请求格式错误、模型 ID 不可用或格式不正确，或者请求无法进行转换。
`401 Unauthorized`	LangSmith API 密钥缺失或无效。
`403 Forbidden`	该密钥没有所需的网关权限。
`429 Too Many Requests`	已达到网关速率限制或上游提供商的速率限制。
`GET /v1/models` 中没有显示带提供商前缀的模型	提供商可能尚未配置，或者可能未返回模型目录。

如需针对具体设置进行处理，请参阅快速入门。

另请参阅

快速入门：发起第一个请求并查看其追踪记录。
直接访问模型：绕过格式转换，使用提供商原生 API。
模型回退：针对备用模型重试请求。

Connect these docs to Claude, VSCode, and more via MCP for real-time answers.

Edit this page on GitHub or file an issue.

Core capabilities

Administration and governance

Advanced

比较 API 格式

使用 Chat Completions

使用 Messages

使用 Responses

了解翻译行为

列出模型

使用区域网关

处理错误

另请参阅

​比较 API 格式

​使用 Chat Completions

​使用 Messages

​使用 Responses

​了解翻译行为

​列出模型

​使用区域网关

​处理错误

​另请参阅

比较 API 格式

使用 Chat Completions

使用 Messages

使用 Responses

了解翻译行为

列出模型

使用区域网关

处理错误

另请参阅