LangSmith Deployment 是一个专为智能体工作负载打造的工作流编排运行时。它提供智能体在生产环境中大规模可靠运行所需的托管基础设施,支持从本地开发到部署的完整生命周期。
此页面介绍如何使用 LangSmith Deployment 在生产环境中运行你的智能体。用于可观测性、评估和提示词工程的 LangSmith 运行环境是独立的;详情请参阅平台设置。

可部署的产品

LangSmith Deployment 与框架无关,这意味着你可以部署使用以下框架构建的智能体:

LangGraph (and LangChain)

使用 LangGraph CLI 和应用模板将应用部署到 LangSmith。

Google ADK

使用 deployments-wrap-sdk 包,将 Google Agent Development Kit (ADK) 智能体作为 LangGraph 进行部署。

Other frameworks

使用 Functional API 或 deployments-wrap-sdk 部署 Claude Agent SDK、Strands、CrewAI、AutoGen 及其他智能体框架。
用于部署以代码为核心的 Deep Agents 的托管运行时目前处于私有测试阶段;请参阅托管式 Deep Agents。

LangSmith Deployment 环境

根据你希望控制平面和数据平面(Agent Server 及其数据库)运行的位置选择环境。所有基础设施类型都使用相同的 Agent Server 运行时。

Cloud

由 LangChain 在 AWS 和 GCP 上完全托管。你可以在 LangSmith UI 中从 GitHub 创建部署,也可以使用 langgraph deploy。需要Plus 计划或更高版本。

Self-hosted with control plane

在你自己的 Kubernetes 集群中运行 LangSmith Deployment 控制平面和 Agent Server,并与自托管 LangSmith 一起使用。需要启用了 LangSmith Deployment 的 Enterprise 计划。

Hybrid

控制平面由 LangChain 管理,Agent Server 及其数据平面运行在你的基础设施中。追踪数据会流向 LangSmith Cloud 或自托管 LangSmith。

Standalone server

使用 Docker、Compose 或 Kubernetes 部署 Agent Server。自行提供 PostgreSQL、Redis 和 LangSmith 许可证;不包含控制平面。可选将 LangSmith 追踪发送到 Cloud 或自托管实例。

常见配置

  • 为智能体提供托管服务。 使用 Cloud 上的 LangSmith Deployment。LangChain 托管控制平面、数据平面和数据库。与 LangSmith Cloud 配合使用。
  • 智能体运行在你的 VPC 中,控制平面由托管。 通过 Hybrid 使用 LangSmith Deployment。LangChain 托管控制平面;你负责托管 Agent Server 及其数据平面。与 LangSmith Cloud 或自托管 LangSmith 配合使用。
  • 完整的数据驻留或隔离网络环境。 使用自托管 LangSmith Deployment。你在自己的基础设施中托管控制平面和 Agent Server,并与自托管 LangSmith 一起运行。
  • 仅使用智能体运行时,不使用控制平面。 使用独立 Agent Server。通过 Docker 或 Kubernetes 运行 Agent Server 容器,无需控制平面;也可以选择将追踪数据发送到 LangSmith Cloud 或自托管实例。
有关 LangSmith 平台的运行位置,请参阅平台设置。

部署之后

部署完成后,智能体会使用 Agent Server 的执行模型:用于配置的 assistants、用于保存状态的 threads,以及用于处理工作负载的 runs。有关功能、教程、服务器自定义和运维,请参阅 Agent Server。

Update prompts and contexts without redeploying

管理已部署智能体在运行时获取的提示词和版本化上下文,从而无需完整重新部署即可更改其行为。

Interact with your deployment using RemoteGraph

从客户端代码调用已部署的图,就像调用本地编译后的图一样。

Find and fix failures with Engine

智能体进入生产环境后,可以使用 LangSmith Engine 从其追踪数据中检测反复出现的故障、诊断根本原因并解决问题。

全栈 Web 应用

将 LangChain.js 智能体和聊天 UI 作为单个 Web 应用一起发布。Vite 示例使用 LangSmith Deployment 作为智能体后端,并在单独的 UI 后面运行。其他示例则将智能体嵌入 Web 框架的路由处理程序中,并发布到托管平台。

全栈 Web 应用

构建一个 LangChain.js 聊天应用:将代理嵌入到 Next.js、SvelteKit、Nuxt、Cloudflare Workers 或 Deno Deploy 中(无需代理服务器),或将 LangSmith 部署与 Vite + React 用户界面配对使用。
LangSmithNext.jsSvelteKitNuxtCloudflare WorkersDeno Deploy