Agent Server 通过 OpenTelemetry (OTel) 客户端发出指标。指标默认使用 lg_api_ 名称前缀(可通过 METRIC_PREFIX 覆盖)。 在自托管部署中,可使用此页面选择抓取或推送后端、启用所需的指标集,并在构建仪表板或警报时查询 Prometheus 名称。

指标后端

Agent Server 将指标分为两组:
  • 部署界面指标:在 LangSmith 部署界面中展示,并默认暴露在 Agent Server 的 Prometheus 抓取端点(GET /metrics,format=prometheus)。
  • 内部指标:供 LangChain 运维人员使用的运维和调试指标。配置后发送到 Datadog。在 Prometheus 上,内部指标仅在您选择启用时才会出现。
Prometheus 和 Datadog 可以同时运行。Datadog 仅接收内部指标,因此界面指标不会在两个后端中重复。

指标层级

每个指标都被分配了一个层级,用于控制内部指标是否被记录: 将 METRIC_MAX_EMITTING_TIER 设置为您希望为内部指标记录的最高层级。部署界面指标会忽略此设置并始终发出。

配置导出

Prometheus

要抓取部署界面指标:
  1. 将您的 Prometheus 收集器指向 Agent Server 的 /metrics 端点(例如,https://<agent-server-host>/metrics)。
  2. 使用默认的 format=prometheus 查询参数(或省略它)。
要在同一端点上同时暴露内部指标,请设置:

Datadog

要将内部指标推送到 Datadog 而不是(或同时)Prometheus:
  1. 将 LSD_DD_API_KEY 设置为您的 Datadog API 密钥。当该密钥存在时,DATADOG_METRICS_ENABLED 会自动开启。
  2. (可选)设置 LSD_DD_ENDPOINT(默认值:otlp.us5.datadoghq.com)或旧别名 CUSTOM_LSD_DD_API_KEY / CUSTOM_LSD_DD_ENDPOINT。
Datadog 仅接收内部指标。请继续在 Prometheus 或 Grafana 中抓取 /metrics 以获取部署界面指标。

部署界面指标

这些指标带有 lsd_web_metric=true 标志。它们默认出现在 Prometheus 的 /metrics 抓取结果中,并为 LangSmith 部署界面提供数据。列出层级值仅供参考;这些指标无论 METRIC_MAX_EMITTING_TIER 设置如何都会始终发出。

内部指标

这些指标带有 lsd_web_metric=false 标志。默认情况下,当设置了 LSD_DD_API_KEY 时,它们会被导出到 Datadog。设置 EXPOSE_INTERNAL_METRICS_PROMETHEUS=true 可将它们包含在 Prometheus 的 /metrics 抓取结果中。层级等于或低于 METRIC_MAX_EMITTING_TIER 的内部指标会被记录;更高层级的指标将被忽略。

运行生命周期

流式传输与协议 v2

服务器与基础设施

另请参阅