Beta: LLM Gateway 目前处于 测试阶段。
配置编码代理以使用标准 LLM Gateway 端点,从而实现集中的成本控制、可观测性和审计追踪。网关会验证每个调用方的身份,按模型 ID 路由,执行策略,并追踪每次调用。 Claude Code 可以使用标准 Anthropic Messages 格式,而 Codex 和 Deep Agents Code 可以使用标准 OpenAI 兼容格式。Gemini CLI 使用 Google 的原生 API,需要直接模型访问。

前提条件

在配置客户端之前,请先设置 LangSmith API 密钥:

Claude Code CLI

将 Claude Code 指向标准 Messages 端点,并使用带提供商前缀的模型 ID:
Claude Code 会将 /v1/messages 附加到 ANTHROPIC_BASE_URL。网关使用 anthropic/ 前缀来解析工作区的 Anthropic 提供商密钥。
配置网关后,Claude Desktop 插件将无法使用。付费套餐(Plus、Max)的 Claude 用户暂不受支持。

Codex CLI

Codex 使用 Responses API。将以下内容添加到 ~/.codex/config.toml,通过标准端点使用 Gateway Credits 调用托管的 Kimi K3 模型:
然后运行:
若要改用自带密钥模型,请将 model 替换为其带提供商前缀的 ID,例如 openai/gpt-5.4-mini。
配置网关后,Codex Desktop 插件将无法使用。此 TOML 配置会强制通过网关进行身份验证,因此 OpenAI 不再直接处理插件身份验证。

Gemini CLI

Gemini CLI 发送 Google 原生的 Generate Content 请求,而标准端点不提供该接口。请按照直接模型访问配置 /gemini 路由,然后运行:

Deep Agents Code

使用带标准端点的 OpenAI 兼容客户端,然后通过 openai 集成传入托管模型 slug:
若要使用自带密钥模型,请保留标准基础 URL,并在 openai: 后传入带提供商前缀的模型,例如 openai:anthropic/claude-opus-5。有关提供商原生集成和模型 ID,请参阅直接模型访问。

全公司部署

对于向所有开发人员推广网关的组织,请通过移动设备管理或共享 Shell 配置文件分发配置。分发以下内容:
  1. 每个客户端的标准网关基础 URL。
  2. 根据你的策略粒度,为每位用户或每个团队提供一个工作区范围的 LangSmith API 密钥。
  3. 为每个编码代理批准的模型 ID。
  4. 如果你的组织使用 Codex,则分发 Codex 的 config.toml。
提供商 API 密钥会集中存储在 LangSmith 工作区密钥中。Gateway Credits 模型不需要提供商 API 密钥。

验证设置

配置编码代理后,进行一次测试调用,并确认:
  1. 调用成功,且代理收到响应。
  2. 在 LangSmith 工作区的 gateway 或 gateway-<short_api_key>-<api_key_id> 追踪项目中出现一条追踪记录。
如果调用返回 403,请检查你的 API 密钥角色是否包含 gateway:invoke 和 workspaces:read。如果自带密钥调用返回 400 并提示缺少提供商密钥,请让组织管理员将该提供商的密钥添加到工作区密钥中。

后续步骤