自托管 LangSmith

重要
自托管 LangSmith 是企业计划的一个附加组件，专为我们最大型、最注重安全的客户设计。更多详情请参考定价。如果您希望获得许可证密钥以在您的环境中试用 LangSmith，请联系我们的销售团队。

在您自己的基础设施中托管一个 LangSmith 实例，用于可观测性、评估和Prompt 工程。您还可以选择启用 LangSmith 部署，通过 LangSmith UI 部署和管理代理。

有关在 AWS、GCP 或 Azure 上自托管 LangSmith 的分步设置说明，请参考我们的云架构指南：AWS、GCP 或 Azure。

包含内容

一个自托管的 LangSmith 实例包括： 服务：

存储服务：

要访问 LangSmith UI 和发送 API 请求，您需要对外暴露 LangSmith 前端服务。根据您的安装方法，这可能是一个负载均衡器或在主机上暴露的一个端口。

服务	描述
LangSmith 前端	前端使用 Nginx 来提供 LangSmith UI 服务并将 API 请求路由到其他服务器。它作为应用程序的入口点，并且是唯一一个必须对用户暴露的组件。
LangSmith 后端	后端是 CRUD API 请求的主要入口点，并处理应用程序的大部分业务逻辑。这包括处理来自前端和 SDK 的请求、准备追踪数据以进行摄入，以及支持 Hub API。
LangSmith 队列	队列处理传入的追踪和反馈数据，确保它们被异步摄入并持久化到追踪和反馈数据存储中，处理数据完整性检查并确保成功插入数据存储，在数据库错误或暂时无法连接数据库等情况下处理重试。
LangSmith 平台后端	平台后端是另一个关键服务，主要负责处理身份验证、运行摄入和其他高负载任务。
LangSmith Playground	Playground 是一个服务，负责将请求转发到各种 LLM API 以支持 Playground 功能。这也可以用于连接到您自己的自定义模型服务器。
LangSmith ACE（任意代码执行）后端	ACE 后端是一个服务，负责在安全环境中执行任意代码。这用于支持在 LangSmith 中运行自定义代码。

LangSmith 默认会捆绑所有存储服务。您可以配置它使用所有存储服务的外部版本。在生产环境中，我们强烈建议使用外部存储服务。

服务	描述
ClickHouse	ClickHouse 是一个高性能、面向列的 SQL 数据库管理系统 (DBMS)，用于在线分析处理 (OLAP)。 LangSmith 使用 ClickHouse 作为追踪和反馈（高容量数据）的主要数据存储。 💡 连接到外部 ClickHouse
PostgreSQL	PostgreSQL 是一个强大的开源对象关系数据库系统，它使用并扩展了 SQL 语言，结合了许多能够安全存储和扩展最复杂数据工作负载的功能。 LangSmith 使用 PostgreSQL 作为事务性工作负载和操作数据（除追踪和反馈之外的几乎所有内容）的主要数据存储。 💡 连接到外部 PostgreSQL - AWS RDS、GCP Cloud SQL、Azure Database
Redis / Valkey	Redis 是一个强大的内存键值数据库，可持久化到磁盘。通过将数据保存在内存中，Redis 为缓存等操作提供了高性能。 LangSmith 使用 Redis 来支持队列和缓存操作。Valkey 也作为 Redis 的直接替代品得到官方支持。 💡 连接到外部 Redis 或 Valkey - AWS ElastiCache、GCP Memorystore、Azure Cache
Blob 存储	LangSmith 支持多种 blob 存储提供商，包括 AWS S3、Azure Blob Storage 和 Google Cloud Storage。 LangSmith 使用 blob 存储来存储大型文件，例如追踪工件、反馈附件和其他大型数据对象。Blob 存储是可选的，但对于生产部署强烈推荐使用。 💡 启用 blob 存储 - AWS S3、GCP GCS、Azure Blob

要进行安装，请遵循 Kubernetes 设置指南。

Connect these docs to Claude, VSCode, and more via MCP for real-time answers.