enqueue 选项。该选项会将中断请求添加到队列中，并按照客户端接收请求的顺序执行。下面是使用 enqueue 选项的一个简单示例。
在Agent Server中创建运行时，入队（Enqueue）是默认的双重输入（多任务）策略。
设置
首先，我们定义一个简单的辅助函数，用于打印 JS 和 cURL 模型输出（如果使用 Python，可以跳过此步骤）：- Javascript
- cURL
function prettyPrint(m) {
const padded = " " + m['type'] + " ";
const sepLen = Math.floor((80 - padded.length) / 2);
const sep = "=".repeat(sepLen);
const secondSep = sep + (padded.length % 2 ? "=" : "");
console.log(`${sep}${padded}${secondSep}`);
console.log("\n\n");
console.log(m.content);
}
# 将此内容放入名为 pretty_print.sh 的文件中
pretty_print() {
local type="$1"
local content="$2"
local padded=" $type "
local total_width=80
local sep_len=$(( (total_width - ${#padded}) / 2 ))
local sep=$(printf '=%.0s' $(eval "echo {1.."${sep_len}"}"))
local second_sep=$sep
if (( (total_width - ${#padded}) % 2 )); then
second_sep="${second_sep}="
fi
echo "${sep}${padded}${second_sep}"
echo
echo "$content"
}
- Python
- Javascript
- cURL
import asyncio
import httpx
from langchain_core.messages import convert_to_messages
from langgraph_sdk import get_client
client = get_client(url=<DEPLOYMENT_URL>)
# 使用以 "agent" 名称部署的图
assistant_id = "agent"
thread = await client.threads.create()
import { Client } from "@langchain/langgraph-sdk";
const client = new Client({ apiUrl: <DEPLOYMENT_URL> });
// 使用以 "agent" 名称部署的图
const assistantId = "agent";
const thread = await client.threads.create();
curl --request POST \
--url <DEPLOYMENT_URL>/threads \
--header 'Content-Type: application/json' \
--data '{}'
创建运行
现在启动两次运行，第二次运行通过"enqueue" 多任务策略中断第一次运行：
- Python
- Javascript
- cURL
first_run = await client.runs.create(
thread["thread_id"],
assistant_id,
input={"messages": [{"role": "user", "content": "旧金山的天气怎么样？"}]},
)
second_run = await client.runs.create(
thread["thread_id"],
assistant_id,
input={"messages": [{"role": "user", "content": "纽约的天气怎么样？"}]},
multitask_strategy="enqueue",
)
const firstRun = await client.runs.create(
thread["thread_id"],
assistantId,
input={"messages": [{"role": "user", "content": "旧金山的天气怎么样？"}]},
)
const secondRun = await client.runs.create(
thread["thread_id"],
assistantId,
input={"messages": [{"role": "user", "content": "纽约的天气怎么样？"}]},
multitask_strategy="enqueue",
)
curl --request POST \
--url <DEPLOY<ENT_URL>>/threads/<THREAD_ID>/runs \
--header 'Content-Type: application/json' \
--data "{
\"assistant_id\": \"agent\",
\"input\": {\"messages\": [{\"role\": \"human\", \"content\": \"what\'s the weather in sf?\"}]},
}" && curl --request POST \
--url <DEPLOY<ENT_URL>>/threads/<THREAD_ID>/runs \
--header 'Content-Type: application/json' \
--data "{
\"assistant_id\": \"agent\",
\"input\": {\"messages\": [{\"role\": \"human\", \"content\": \"what\'s the weather in nyc?\"}]},
\"multitask_strategy\": \"enqueue\"
}"
查看运行结果
验证线程中是否包含两次运行的数据：- Python
- Javascript
- cURL
# 等待第二次运行完成
await client.runs.join(thread["thread_id"], second_run["run_id"])
state = await client.threads.get_state(thread["thread_id"])
for m in convert_to_messages(state["values"]["messages"]):
m.pretty_print()
await client.runs.join(thread["thread_id"], secondRun["run_id"]);
const state = await client.threads.getState(thread["thread_id"]);
for (const m of state["values"]["messages"]) {
prettyPrint(m);
}
source pretty_print.sh && curl --request GET \
--url <DEPLOYMENT_URL>/threads/<THREAD_ID>/runs/<RUN_ID>/join && \
curl --request GET --url <DEPLOYMENT_URL>/threads/<THREAD_ID>/state | \
jq -c '.values.messages[]' | while read -r element; do
type=$(echo "$element" | jq -r '.type')
content=$(echo "$element" | jq -r '.content | if type == "array" then tostring else . end')
pretty_print "$type" "$content"
done
================================ 人类消息 =================================
旧金山的天气怎么样？
================================== AI 消息 ==================================
[{'id': 'toolu_01Dez1sJre4oA2Y7NsKJV6VT', 'input': {'query': '旧金山的天气'}, 'name': 'tavily_search_results_json', 'type': 'tool_use'}]
工具调用：
tavily_search_results_json (toolu_01Dez1sJre4oA2Y7NsKJV6VT)
调用 ID：toolu_01Dez1sJre4oA2Y7NsKJV6VT
参数：
query: 旧金山的天气
================================= 工具消息 =================================
名称：tavily_search_results_json
[{"url": "https://www.accuweather.com/en/us/san-francisco/94103/weather-forecast/347629", "content": "获取加利福尼亚州旧金山当前及未来的天气状况，包括温度、降水、风力、空气质量等。查看逐小时和未来 10 天的天气预报、雷达地图、预警和过敏信息。"}]
================================== AI 消息 ==================================
根据 AccuWeather 的信息，旧金山当前的天气状况如下：
温度：57°F（14°C）
天气状况：大致晴朗
风力：西南偏西，10 英里/小时
湿度：72%
未来几天的预报显示，天气将以间晴为主，最高温度在 50 多华氏度至 60 多华氏度中段（14-18°C），最低温度在 40 多华氏度后段至 50 多华氏度前段（9-11°C）。这符合旧金山每年这个时期温和、干燥的典型天气。
AccuWeather 预报中的一些主要信息：
今天：大致晴朗，最高 62°F（17°C）
今晚：局部多云，最低 49°F（9°C）
明天：间晴，最高 59°F（15°C）
星期六：大致晴朗，最高 64°F（18°C）
星期日：间晴，最高 61°F（16°C）
总的来说，未来几天旧金山将迎来符合季节特点的春季天气，阳光与云层交替出现，夜间温度在 40 多华氏度后段，白天温度在 60 多华氏度前段。天气通常较为干燥，预报中没有降雨。
================================ 人类消息 =================================
纽约的天气怎么样？
================================== AI 消息 ==================================
[{'text': '以下是纽约市当前的天气状况和预报：', 'type': 'text'}, {'id': 'toolu_01FFft5Sx9oS6AdVJuRWWcGp', 'input': {'query': '纽约市的天气'}, 'name': 'tavily_search_results_json', 'type': 'tool_use'}]
工具调用：
tavily_search_results_json (toolu_01FFft5Sx9oS6AdVJuRWWcGp)
调用 ID：toolu_01FFft5Sx9oS6AdVJuRWWcGp
参数：
query: 纽约市的天气
================================= 工具消息 =================================
名称：tavily_search_results_json
[{"url": "https://www.weatherapi.com/", "content": "{'location': {'name': 'New York', 'region': 'New York', 'country': 'United States of America', 'lat': 40.71, 'lon': -74.01, 'tz_id': 'America/New_York', 'localtime_epoch': 1718734479, 'localtime': '2024-06-18 14:14'}, 'current': {'last_updated_epoch': 1718733600, 'last_updated': '2024-06-18 14:00', 'temp_c': 29.4, 'temp_f': 84.9, 'is_day': 1, 'condition': {'text': '晴朗', 'icon': '//cdn.weatherapi.com/weather/64x64/day/113.png', 'code': 1000}, 'wind_mph': 2.2, 'wind_kph': 3.6, 'wind_degree': 158, 'wind_dir': 'SSE', 'pressure_mb': 1025.0, 'pressure_in': 30.26, 'precip_mm': 0.0, 'precip_in': 0.0, 'humidity': 63, 'cloud': 0, 'feelslike_c': 31.3, 'feelslike_f': 88.3, 'windchill_c': 28.3, 'windchill_f': 82.9, 'heatindex_c': 29.6, 'heatindex_f': 85.3, 'dewpoint_c': 18.4, 'dewpoint_f': 65.2, 'vis_km': 16.0, 'vis_miles': 9.0, 'uv': 7.0, 'gust_mph': 16.5, 'gust_kph': 26.5}}"}]
================================== AI 消息 ==================================
根据 WeatherAPI 的天气数据：
纽约市当前状况（当地时间下午 2:00）：
* 温度：85°F（29°C）
* 天气状况：晴朗
* 风力：2 英里/小时（4 千米/小时），风向为南南东
* 湿度：63%
* 体感温度：85°F（30°C）
预报显示，未来几天将持续晴朗温暖的天气：
今天：晴朗，最高 85°F（29°C）
今晚：晴朗，最低 68°F（20°C）
明天：晴朗，最高 88°F（31°C）
星期四：大致晴朗，最高 90°F（32°C）
星期五：局部多云，最高 87°F（31°C）
纽约市目前阳光明媚，气温温暖宜人，处于华氏 80 多度中段至高段（约 30°C）。湿度适中，在 60% 左右。总体而言，未来几天非常适合在城市户外活动，符合晚春或初夏的理想天气。
Connect these docs to Claude, VSCode, and more via MCP for real-time answers.