Skip to content

00 Agent 工作负载与执行链 ​

页面目标 ​

Agent 的性能与可靠性不能只按一次模型调用衡量。一个任务会在模型生成、工具执行、上下文更新和重试之间往返;因此先把“任务完成”拆成可记录的轨迹,后续的数据、沙盒、调度和评测才有共同对象。

核心机制:从单轮请求到任务轨迹 ​

对象在单轮推理中在 Agent 任务中需要记录的结果
输入prompt 与生成参数目标、上下文、工具 schema 与初始状态任务 ID、版本、输入摘要
执行Prefill → Decode模型 step ↔ 工具 step ↔ 状态更新step 序号、动作、耗时、状态变化
输出一段文本最终结果、工具副作用或失败completion、错误类别、可复现证据
质量单轮质量或延迟完成率、工具正确性、轨迹合理性、成本任务级质量与资源结果

Agent 从任务输入到可审计轨迹

Workload 契约 ​

开始比较 Agent 策略前,先固定任务集合和工具行为。相同 prompt 但工具延迟、返回值或环境状态不同,不能视作同一 workload。

契约字段需要固定或保存的内容为什么影响结论
任务任务类型、目标、初始状态、成功条件与最大步数决定轨迹长度和完成率的含义
模型调用模型、版本、温度、最大输出、system prompt影响动作选择与 token 成本
工具schema、版本、超时、重试与模拟返回影响可执行性、等待和错误分布
上下文memory 规则、截断、压缩与注入内容影响每步输入长度和行为一致性
证据trace、日志、输出、环境快照与失败原因让任务结果可复查、可比较

连接到现有专题 ​

需要补的能力入口在 Agent 中的作用
请求阶段、队列与服务指标推理优化、70 Serving 调度拆分模型等待、队列等待与工具等待
轨迹数据、奖励与评测后训练优化、50 偏好数据与评测定义轨迹质量、验证器与回归集
trace、资源与关键路径性能优化记录模型、工具、网络与沙盒的时间代价

交付物 ​

完成本页后,应能写出一份 Agent workload 卡:任务目标、工具集合、成功条件、最大步数、模型配置、环境版本和 trace 字段齐全。Task1 用它生产轨迹数据,Task2 用它固定可复现的执行环境。

Released under the MIT License.