Hybrid 是 LangSmith Deployment 的一种平台部署方式,用于在生产环境中部署和运行代理。 在混合平台部署中,您可以在自己的基础设施中自托管 Agent Servers,并将其追踪信息发送到 LangSmith。LangSmith 可以是自托管实例,也可以是 LangSmith Cloud。 这种部署方式既能让您控制代理工作负载的运行位置,又能让您选择最符合可观测性和合规性要求的 LangSmith 平台选项。

组件

Hybrid 是 LangSmith Deployment(代理服务)的一种平台部署方式。如果您只想设置 LangSmith 以实现可观测性、评估和提示词工程,请参阅设置 LangSmith。

工作流程

  1. 在本地构建并测试代理。
  2. 将代理部署到在您的基础设施中运行的 Agent Server。
  3. 将代理的追踪信息发送到 LangSmith(自托管或 SaaS),用于可观测性和评估。

自托管 Agent Servers

使用 Docker、Docker Compose 或 Kubernetes 部署独立的 Agent Servers。有关前置条件、环境变量和特定平台的说明,请参阅独立服务器指南。

选择追踪信息的发送位置

Agent Servers 根据 LANGSMITH_ENDPOINT 环境变量将追踪信息发送到 LangSmith:
  • LangSmith SaaS:省略 LANGSMITH_ENDPOINT 以使用默认区域(GCP US),或将其设置为您所在区域的端点:
    Region
    GCP US
    GCP EU
    GCP APAC
    AWS US
  • 自托管 LangSmith:将 LANGSMITH_ENDPOINT 设置为您的自托管 LangSmith实例的主机名。
无论采用哪种方式,都需要使用向您要发送追踪信息的 LangSmith 实例申请的 LangSmith API 密钥 进行身份验证。