LangGraph 获得了众多塑造智能代理未来的公司的信赖,包括 Klarna、Uber、摩根大通等。它是一个底层的编排框架和运行时,用于构建、管理和部署长时间运行的有状态代理。LangGraph 为您提供了细粒度的控制,能够将确定性的、手工编码的步骤与由 LLM 驱动的代理步骤混合在同一个图中,从而您可以构建完全符合应用程序需求的定制化代理。 LangGraph 的层级非常低,完全专注于代理的编排。在使用 LangGraph 之前,我们建议您先熟悉一些用于构建代理的组件,可以从模型和工具开始。 在整个文档中,我们通常会使用 LangChain 组件来集成模型和工具,但您无需使用 LangChain 也能使用 LangGraph。如果您刚开始接触代理,或者想要更高级别的抽象,我们建议您使用 LangChain 的 Agents,它们为常见的 LLM 和工具调用循环提供了预构建的架构。 LangGraph 专注于对代理编排至关重要的基础能力:持久化执行、流式传输、人在回路等。 LangGraph 的核心优势之一,是能够在单个图中混合确定性步骤与 LLM 驱动的代理步骤。这让您能够构建定制化的工作流:部分逻辑完全可预测和可审计,而另一部分则灵活且由模型驱动,从而精确控制 AI 应用的位置和方式。

安装

然后,创建一个简单的 hello world 示例:
使用 LangSmith 来追踪请求、调试代理行为并评估输出。设置 LANGSMITH_TRACING=true 和您的 API 密钥即可开始使用。请遵循追踪快速入门指南进行设置。我们建议您同时设置 LangSmith Engine,它可以监控您的追踪、检测问题并提出修复建议。

核心优势

LangGraph 为任何长时间运行的有状态工作流或代理提供底层的支持基础设施。LangGraph 不抽象提示词或架构,并提供以下核心优势:
  • 混合确定性步骤与代理步骤:在一个图中将手工编写的确定性逻辑与 LLM 驱动的决策相结合。在需要可靠性和可预测性的地方使用确定性步骤,在需要灵活性的地方使用代理步骤——让您精确控制代理行为的每一个部分。
  • 持久化:构建能够抵御故障并可长时间运行的代理,能够从中断处恢复执行。
  • 人在回路:通过在任意时刻检查和修改代理状态来融入人工监督。
  • 全面的记忆能力:创建有状态代理,既具备用于持续推理的短期工作记忆,也拥有跨会话的长期记忆。
  • 使用 LangSmith 进行调试:通过可视化工具深入了解复杂代理的行为,这些工具可以追踪执行路径、捕获状态转换并提供详细的运行时指标。
  • 生产就绪的部署:借助专为处理有状态、长时运行工作流的独特挑战而设计的可扩展基础设施,自信地部署复杂的代理系统。

LangGraph 生态系统

虽然 LangGraph 可以独立使用,但它也能与任何 LangChain 产品无缝集成,为开发者提供构建代理的全套工具。为了改进您的 LLM 应用程序开发,可以将 LangGraph 与以下产品搭配使用:

LangSmith 可观测性

在一个地方追踪请求、评估输出并监控部署。使用 LangGraph 在本地进行原型设计,然后借助集成的可观测性和评估工具迁移到生产环境,以构建更可靠的代理系统。

LangSmith 部署

借助专为长时运行、有状态工作流设计的部署平台,轻松部署和扩展代理。跨团队发现、复用、配置和共享代理——并可在 Studio 中进行可视化原型设计,快速迭代。

LangChain

提供集成和可组合组件,以简化 LLM 应用程序开发。包含构建在 LangGraph 之上的代理抽象。

致谢

LangGraph 的灵感来源于 Pregel 和 Apache Beam。其公共接口的设计参考了 NetworkX。LangGraph 由 LangChain Inc(LangChain 的创建者)构建,但可以独立于 LangChain 使用。