本指南适用于已在实例上启用 LangSmith Deployment 的自托管 LangSmith 客户。对于 Cloud 客户,请参阅在 Cloud 上部署。对于没有控制平面的独立 Agent Server,请参阅托管独立服务器。
本指南介绍如何使用控制平面,将应用部署到自托管的 LangSmith 实例。借助控制平面,您可以在本地构建 Docker 镜像,将其推送到 Kubernetes 集群可访问的镜像仓库,然后通过 LangSmith UI 进行部署。

拓扑结构

在现有的自托管 LangSmith 实例上启用 LangSmith Deployment 后,会添加一个控制平面、一个数据平面监听器以及一个用于在集群中配置 Agent Server 的操作器。基础 LangSmith 平台继续负责可观测性、评估和提示词;已部署的 Agent Server 会将追踪信息发送回该平台。 有关启用 LangSmith Deployment 后添加的组件的详细信息,请参阅启用 LangSmith Deployment。

概述

使用控制平面将应用部署到自托管 LangSmith 实例时,需要使用 Docker 镜像。本指南中的应用部署流程如下:
  1. 使用 langgraph dev 或 Studio 在本地测试应用。
  2. 使用 langgraph build 命令构建 Docker 镜像。
  3. 将镜像推送到基础设施可访问的容器镜像仓库。
  4. 在控制平面 UI 中指定镜像 URL 并进行部署。

先决条件

完成本指南前,您需要准备以下内容:

第 1 步:在本地测试

部署前,请先在本地测试应用。您可以使用 LangGraph CLI 以开发模式运行 Agent server:
有关本地测试的完整指南,请参阅本地服务器快速入门。

第 2 步:构建 Docker 镜像

使用 langgraph build 命令为应用构建 Docker 镜像:
构建命令包含以下选项: 指定平台的示例:
有关完整详情,请参阅 CLI 参考。

第 3 步:推送到容器镜像仓库

将镜像推送到 Kubernetes 集群可访问的容器镜像仓库。具体命令取决于您的镜像仓库提供商。
请为镜像添加版本信息标签(例如 my-registry.com/my-app:v1.0.0),以便更轻松地回滚。

第 4 步:使用控制平面 UI 进行部署

通过控制平面 UI,您可以创建和管理部署、查看日志和指标,以及更新配置。要在 LangSmith UI 中创建新部署,请执行以下操作:
  1. 在左侧导航面板中选择 Deployments。
  2. 在右上角选择 + New Deployment。
  3. 在部署配置面板中提供以下信息:
    • Image URL:您在第 3 步中推送的完整镜像 URL。
    • Listener/Compute ID:选择为您的基础设施配置的监听器。
    • Namespace:要部署到的 Kubernetes 命名空间。
    • Environment variables:任何必需的配置(API 密钥等)。
    • 根据需要配置其他部署设置。
  4. 选择 Submit。
控制平面将与您的数据平面监听器协调,以部署应用。 创建部署后,基础设施会异步完成配置。部署可能需要几分钟,首次部署由于需要创建数据库,耗时可能更长。 在控制平面 UI 中,您可以查看构建日志、服务器日志和部署指标,包括 CPU/内存使用情况、副本数量以及 API 性能。有关更多详情,请参阅控制平面监控文档。
每个部署都会自动创建一个 LangSmith 可观测性追踪项目,其名称与部署名称相同。追踪环境变量由控制平面自动设置。

更新部署

要部署应用的新版本,请创建一个新修订版本: 从 LangSmith UI 开始:
  1. 在左侧导航面板中选择 Deployments。
  2. 选择现有部署。
  3. 在 Deployment 视图中,选择右上角的 + New Revision。
  4. 更新配置:
    • 将 Image URL 更新为新镜像版本。
    • 根据需要更新环境变量。
    • 根据需要调整其他设置。
  5. 选择 Submit。

私有镜像仓库身份验证

如果您的容器镜像仓库需要身份验证(例如 AWS ECR、Azure ACR、GCP Artifact Registry 或私有 Docker 镜像仓库),则必须在部署应用前配置 Kubernetes 镜像拉取密钥。这是一次性的基础设施配置。
**此配置在基础设施层面完成,而不是针对单个部署完成。**配置完成后,所有部署都会自动继承镜像仓库凭据。
在 LangSmith Helm chart 的 values.yaml 文件中配置 imagePullSecrets。详细步骤请参阅启用 LangSmith Deployment 指南。 有关为不同镜像仓库提供商创建镜像拉取密钥的详细步骤,请参阅 Kubernetes 关于从私有镜像仓库拉取镜像的文档。

后续步骤