助手 是 Agent Server 中的一个概念,用于将配置(例如提示词、LLM 选择和工具)与图的核心逻辑分开管理。这样,你就可以在运行时基于同一图架构创建多个具有不同特性的专用版本。通过配置变体(而不是修改图的结构),每个助手都可以针对不同的使用场景进行优化。 例如,假设有一个基于通用图架构构建的写作代理。虽然图的结构保持不变,但不同的写作风格(如博客文章和推文)需要经过定制的配置,才能优化性能。为支持这些变体,你可以创建多个助手(例如一个用于博客,另一个用于推文),让它们共享底层图,但使用不同的模型选择和系统提示词。 助手版本 Agent Server API 提供了多个用于创建和管理助手及其版本的端点。更多详情请参阅 API 参考。
助手是 LangSmith Deployment 中的一个概念,在开源 LangGraph 库中不可用。

助手如何与部署配合使用

当你通过 LangSmith Deployment 部署一个图时,Agent Server 会自动创建一个与该图默认配置关联的默认助手。随后,你可以为同一个图创建其他助手,并为每个助手设置各自的配置。 如果你的部署在 langgraph.json 中定义了多个图,则每个图都会获得一个自己的默认助手:
也就是说,可以有多个默认助手——部署中定义的每个图对应一个默认助手。 助手具有以下几个主要特性:
  • 通过 API 和 UI 管理:使用 Agent Server/LangGraph SDK 或 LangSmith UI 创建、列出、更新、创建版本以及获取助手。
  • 一个图,多个助手:单个已部署的图可以支持多个助手,每个助手都可以使用不同的配置(例如提示词、模型和工具)。
  • 配置版本化:每个助手都通过版本控制维护自己的配置历史。编辑助手会创建一个新版本,你可以将任意版本提升为当前版本,或回滚到任意版本。
  • 无需修改图即可更新配置:通过助手配置更新提示词、模型选择和其他设置,无需修改或重新部署图代码,即可快速迭代。
调用助手时,你可以在 langgraph.json 中指定以下任一项:
  • 图 ID(例如 "agent"):使用该图的默认助手
  • 助手 ID(UUID):使用特定的助手配置
这种灵活性让你可以使用默认设置快速测试,也可以精确控制所使用的配置。

配置

助手基于 LangGraph 开源版本中的配置概念构建。 虽然开源 LangGraph 库提供了配置功能,但助手仅存在于 LangSmith Deployment 中,因为它们与已部署的图紧密关联。部署后,Agent Server 会根据每个图的默认配置设置,自动为每个图创建一个默认助手。 实际上,助手只是具有特定配置的图的一个_实例_。因此,多个助手可以引用同一个图,但使用不同的配置(例如提示词、模型和工具)。LangSmith Deployment API 提供了多个用于创建和管理助手的端点。有关如何创建助手的更多详情,请参阅 API 参考 和此操作指南。

使用场景

当你需要使用不同配置部署同一图架构时,助手非常适合。常见使用场景包括:
  • 用户级个性化
    • 为每个用户定制模型选择、系统提示词或工具可用性。
    • 存储用户偏好,并将其自动应用于每次交互。
    • 让用户在不同的 AI 个性或专业水平之间进行选择。
  • 特定客户或组织的配置
    • 为不同客户或组织维护独立的配置。
    • 无需部署单独的基础设施,即可为每个客户定制行为。
    • 将配置更改限制在特定客户范围内。
  • 特定环境的配置
    • 为开发、预发布和生产环境使用不同的模型或设置。
    • 在将配置更改提升到生产环境之前,先在预发布环境中进行测试。
    • 在非生产环境中使用更小的模型以降低成本。
  • A/B 测试和实验
    • 比较不同的提示词、模型或参数设置。
    • 将配置更改逐步推广到部分用户。
    • 衡量不同配置变体之间的性能差异。
  • 专用任务变体
    • 为通用代理创建特定领域的版本。
    • 针对不同语言、地区或行业优化配置。
    • 在保持图逻辑一致的同时,改变执行细节。

版本管理

助手支持版本管理,可用于跟踪随时间发生的更改。创建助手后,后续编辑会自动创建新版本。
  • 每次更新都会创建一个新的助手版本。
  • 你可以将任意版本提升为当前版本。
  • 只需将之前的版本设置为当前版本,即可回滚。
  • 所有版本都会保留,以便查阅和回滚。
更新助手时,必须提供完整的配置负载。更新端点会从头创建新版本,不会与之前的版本合并。请确保包含所有希望保留的配置字段。
有关如何管理助手版本的更多详情,请参阅管理助手指南。