Beta: LLM Gateway 目前处于 测试阶段。
前提条件
- 你的组织管理员已启用网关,并完成所有必需的提供商设置。
- 你拥有一个工作区范围的 LangSmith API 密钥,并具有
gateway:invoke和workspaces:read权限。 - 对于自带密钥模型,你的工作区需具有相应的提供商密钥。Gateway Credits 模型不需要提供商密钥。
Claude Code CLI
将 Claude Code 指向标准 Messages 端点,并使用带提供商前缀的模型 ID:/v1/messages 附加到 ANTHROPIC_BASE_URL。网关使用 anthropic/ 前缀来解析工作区的 Anthropic 提供商密钥。
Codex CLI
Codex 使用 Responses API。将以下内容添加到~/.codex/config.toml,通过标准端点使用 Gateway Credits 调用托管的 Kimi K3 模型:
model 替换为其带提供商前缀的 ID,例如 openai/gpt-5.4-mini。
Gemini CLI
Gemini CLI 发送 Google 原生的 Generate Content 请求,而标准端点不提供该接口。请按照直接模型访问配置/gemini 路由,然后运行:
Deep Agents Code
使用带标准端点的 OpenAI 兼容客户端,然后通过openai 集成传入托管模型 slug:
openai: 后传入带提供商前缀的模型,例如 openai:anthropic/claude-opus-5。有关提供商原生集成和模型 ID,请参阅直接模型访问。
全公司部署
对于向所有开发人员推广网关的组织,请通过移动设备管理或共享 Shell 配置文件分发配置。分发以下内容:- 每个客户端的标准网关基础 URL。
- 根据你的策略粒度,为每位用户或每个团队提供一个工作区范围的 LangSmith API 密钥。
- 为每个编码代理批准的模型 ID。
- 如果你的组织使用 Codex,则分发 Codex 的
config.toml。
验证设置
配置编码代理后,进行一次测试调用,并确认:- 调用成功,且代理收到响应。
- 在 LangSmith 工作区的
gateway或gateway-<short_api_key>-<api_key_id>追踪项目中出现一条追踪记录。
403,请检查你的 API 密钥角色是否包含 gateway:invoke 和 workspaces:read。如果自带密钥调用返回 400 并提示缺少提供商密钥,请让组织管理员将该提供商的密钥添加到工作区密钥中。
后续步骤
- Gateway Credits:无需提供商密钥即可调用托管模型。
- 直接模型访问:为需要原生提供商路由的编码代理进行配置。
- 支出策略:为开发人员的 LLM 使用设置成本上限。
- 追踪、Engine 和访问控制:了解网关追踪记录的显示位置。
Connect these docs to Claude, VSCode, and more via MCP for real-time answers.

