使用和计费

​

数据保留

本节介绍LangSmith中数据保留的工作原理及其定价方式。

​

为何保留很重要

• 隐私：许多数据隐私法规，例如欧洲的GDPR或加州的CCPA，要求组织在个人数据不再需要用于收集目的时将其删除。设定保留期限有助于遵守此类法规。
• 成本：LangSmith对数据保留期限较短的跟踪收取较低费用。更多信息，请了解如何强制执行支出限制。

​

工作原理

LangSmith基于数据保留将跟踪分为两个层级，其特点如下： 保留期结束后的数据删除 在指定的保留期之后，跟踪将无法再在跟踪项目UI或通过API访问。与跟踪关联的所有用户数据（例如输入和输出）将在一天内从我们的内部系统中删除。可能出于分析和计费目的，每个跟踪的部分元数据会被无限期保留。

​

数据保留自动升级

大多数跟踪使用基础保留。某些操作，例如在线评估器和自动化规则，可能会以更高的成本将跟踪延长到更长的保留期。您可以控制哪些操作可以延长保留期。 当您将某些功能与基础层级的跟踪一起使用时，其数据保留可能会自动升级到扩展层级。这会同时增加跟踪的保留期和成本。 各操作对应的保留行为：

• 通过API或SDK提供的反馈：通过明确传递 extend_trace_retention=true (TypeScript中为 extendTraceRetention: true) 的API或SDK调用，将反馈添加到跟踪中的任何运行（或线程中的任何跟踪）。更多信息，请参阅附加用户反馈。LangSmith UI在发送反馈和备注时不会延长保留期。
• 在线评估器：在线评估器对跟踪进行评分，并且其保留设置已启用。跟踪级和线程级评估器均可选择退出此升级。
• 自动化规则：启用了保留延长功能的自动化规则匹配跟踪中的任何运行。
• 手动添加到标注队列（不升级）：默认情况下，手动将运行或线程添加到标注队列不会升级保留期。

此更改仅适用于新的操作。已被先前操作升级的跟踪将保持其扩展保留期。 为什么要自动升级跟踪？ 我们在跟踪自动升级模型背后有两个原因：

1. 我们认为符合这些条件的任何跟踪都比其他跟踪根本上更有趣，因此让用户能够更长时间地保留它们是件好事。
2. 我们在理念上希望对可能没有实质性交互的跟踪收取低一个数量级的费用。我们认为自动升级使我们的定价模型与LangSmith带来的价值保持一致，即只有具有实质性交互的跟踪才按更高费率收费。

如果您对我们的定价模型有疑问或担忧，请随时通过support.langchain.com联系支持团队，告诉我们您的想法！ 数据保留如何影响下游功能？ 以下功能与保留策略的交互方式有所不同：

• 实验：默认在扩展保留策略下创建运行记录。
• 自动化规则与评估器：当启用保留设置时，会将匹配的追踪升级至扩展保留策略。
• 用户反馈、备注与标注队列：保持追踪的保留层级不变。

其他功能的运行独立于追踪的保留层级：

• 监控：即使基础层级追踪的数据保留期结束，监控标签页仍将继续正常工作。其运行依赖于存在时间超过30天的追踪元数据，这意味着您的监控图表即使在基础层级追踪上也将保持准确性。
• 数据集：数据集拥有无限期的数据保留策略。换句话说，若您将追踪的输入输出添加到数据集中，这些数据将永远不会被删除。我们建议：如果您正在使用LangSmith进行数据收集，请充分利用数据集功能。

​

计费模型

计费指标 在您的LangSmith发票上，您会看到我们收取的两个指标：

• LangSmith跟踪（基础费用）
• LangSmith跟踪（扩展数据保留升级）。

第一个指标包含所有跟踪，无论其层级。第二个指标仅计算扩展保留跟踪的数量。 为什么测量所有跟踪+升级而不是基础和扩展跟踪？ 在考虑我们的定价时，一个自然的问题是：为什么不在发票上直接显示基础层级和扩展层级跟踪的数量呢？ 虽然我们理解这样更直接，但它不适合跟踪升级的情况。考虑一个在6月30日记录的基础层级跟踪，并在7月3日升级为扩展层级。基础层级跟踪发生在6月计费周期，但升级发生在7月计费周期。因此，我们需要能够独立地衡量这两个事件，以便正确地向客户收费。 如果您的跟踪是作为扩展保留跟踪记录的，那么基础和扩展指标都将记录相同的时间戳。 成本明细 跟踪的基础费用为每跟踪0.05美分。我们将升级价格设定为使得一个扩展保留跟踪的成本是基础层级跟踪的10倍（每跟踪0.50美分），这包含了两个指标。因此，每次升级的成本为0.45美分。

​

速率限制

LangSmith设有速率限制，旨在确保为所有用户提供稳定的服务。 为确保访问和稳定性，在以下情况下，LangSmith将以HTTP状态码429进行响应，表明已超出速率或使用限制：

​

应用负载均衡器1分钟内的临时吞吐量限制

此429是由于在每个服务密钥或PAT的基础上，超过1分钟窗口内的固定API调用次数而导致的。窗口的开始时间会略有变化——不保证从时钟分钟的开始开始——并且可能因应用程序部署事件而改变。 在接收到最大事件数后，我们将以429响应，直到从评估窗口开始起达到60秒，然后此过程重复进行。 此429由我们的应用负载均衡器抛出，是为所有LangSmith用户（与计划层级无关）设置的机制，以确保所有用户的服务连续性。

​

计划级每小时跟踪事件限制

此429是由于达到您每小时最大事件摄取量而导致的，在固定的窗口内进行评估，该窗口从UTC每个整点开始，并在每个新整点重置。 此上下文中的事件是指运行的创建或更新。如果一个运行在同一个小时窗口内被创建然后随后更新，则该限制计为2个事件。 此限制由我们的应用程序抛出，并因计划层级而异，我们的Startup/Plus和企业计划层级的组织比我们针对个人使用的免费和开发者计划层级拥有更高的每小时限制。

​

计划级每小时跟踪数据摄取限制

此429是由于达到您的跟踪输入、输出和元数据的最大数据摄取量而导致的，在固定的窗口内进行评估，该窗口从UTC每个整点开始，并在每个新整点重置。 通常，输入、输出和元数据会在运行创建和更新事件时发送。如果一个运行以2.0MB被创建，并在同一个小时窗口内更新到3.0MB，则该限制计为5.0MB存储。 此限制由我们的应用程序抛出，并因计划层级而异，我们的Startup/Plus和企业计划层级的组织比我们针对个人使用的免费和开发者计划层级拥有更高的每小时限制。

​

计划级每月唯一跟踪限制

此429是由于达到您的每月最大跟踪摄取量而导致的，在固定的窗口内进行评估，该窗口从UTC每个日历月开始，并在每个新月初重置。 此限制由我们的应用程序抛出，并且仅适用于没有存档支付方式的开发者计划层级。

​

自配置的每月使用限制

此429是由于达到由您的组织管理员配置的使用限制而导致的，在固定的窗口内进行评估，该窗口从UTC每个日历月开始，并在每个新月初重置。 此限制由我们的应用程序抛出，并因组织基于其配置的设置而异。

​

每跟踪最大运行数

Each trace is limited to a maximum of 25,000 runs. Once the trace reaches this limit, LangSmith will reject any additional runs that you send for that trace.

​

运行查询端点

POST /runs/query 端点根据查询参数有额外的每租户速率限制。详情请参阅使用SDK查询跟踪。

​

工作区邀请批量端点

工作区邀请批量请求按工作区进行速率限制，以减少批量邀请滥用。

​

在您的应用程序中处理429响应

由于某些429响应是临时的，可能在后续调用中成功，如果您在应用程序中直接调用LangSmith API，我们建议实现带有指数退避和抖动的重试逻辑。 为方便起见，使用LangSmith SDK构建的LangChain应用程序已内置此功能。

​

使用限制

LangSmith允许您配置跟踪的使用限制。请注意，这些是使用限制，而非支出限制，这意味着它们让您限制某些事件发生的数量，而不是您将花费的总金额。 LangSmith允许您设置两个不同的每月限制，这反映了我们在上述数据保留指南中讨论的计费指标：

• 所有跟踪限制
• 扩展数据保留跟踪限制

这些分别让您限制总跟踪数量和扩展数据保留跟踪数量。

​

使用限制的特性

使用限制是近似的，这意味着我们不能保证限制的精确性。在极少数情况下，可能会有一小段时间，在使用限制开始应用之前，会处理超出限制阈值的额外跟踪。

​

扩展数据保留跟踪限制的副作用

扩展数据保留跟踪限制有副作用。如果限制已经达到，LangSmith会阻止那些将创建另一个扩展保留跟踪的操作。例如，您不能再：

1. 运行会延长跟踪保留期的自动化规则
2. 运行会延长跟踪保留期的评估器

不改变跟踪保留期的操作不会计入扩展保留跟踪限制。当限制达到时，您仍然可以在LangSmith UI中提交反馈、将运行或线程添加到标注队列，以及运行保留延长功能已禁用的自动化规则或评估器。

​

更新使用限制

可以在使用和计费下的设置页面更新使用限制。限制值已缓存，因此可能需要一两分钟才能应用新的限制。

​

相关内容

• 教程：如何强制执行支出限制

---