Agent 评测 07:常见误区与推进路线
汇总系列中反复出现的评测误区,给出团队从零开始搭建 Agent 与 Skill 评测的分阶段路线,讨论评测驱动 Skill 自动迭代的做法和边界,并回顾整个系列。
记录探索途中捕捉到的信号,让零散的思考在时间、主题与关键词之间重新连接。
汇总系列中反复出现的评测误区,给出团队从零开始搭建 Agent 与 Skill 评测的分阶段路线,讨论评测驱动 Skill 自动迭代的做法和边界,并回顾整个系列。
以一次下发、隔离执行的方式评测 Claude Code、Codex、pi 和自研 Agent:用终态判定完成度,用关键检查点评估过程,先记录再定耗时与成本预算,用多次试次衡量稳定性,并防止 Agent 越权或钻评测的空子。
Skill 评测是 Agent 评测的特例:固定模型、Harness 和已安装的 Skill 集合,只改变目标 Skill。本文按准入、触发、遵循、增益、代价五个环节拆解 Skill 评测,并给出成对对照、触发评测、行为审计和模型升级复测的做法。
规则、脚本、LLM Judge、Agent Judge 和人工评分各适合什么;怎样写评分标准、规避 Judge 的已知偏差、用人工标注校准 Judge,以及用参考解、空跑和变异测试检验评测本身能否发现问题。
数据集决定评测能测出什么。本文讲用例从哪里来、如何用错误分析归纳失败类型、如何系统覆盖正反例与边界、如何防止用例泄漏和暴露测试痕迹,以及数据集的版本化和用例的生命周期管理。
把前五篇的方法连成一条自动化评测流水线:按变更触发、用运行清单固定所有变量、隔离并发执行、统一轨迹格式、评分与人工复核分流、用配对置信区间判断版本差异、在报告中同时呈现效果与成本,并用门禁参与发布决策。
评测是一次控制变量实验:固定其他部分,只改变一个变量,用同一批用例和评分器判断 Agent 能否在时间和成本约束内稳定完成任务。本文建立用例、试次、轨迹、终态、评分器等基础概念。
从财务对账 Agent 的生产化过程出发,讨论通用 Agent、Skill、Agent SDK 与企业自建业务控制层的边界,以及企业何时值得自建 Agent。
读塔勒布《反脆弱》后的方法论笔记:先削掉会让自己出局的风险,再用安全垫和小实验把不确定性变成成长来源。
梳理 A2A、MCP、ANP 三种智能体协议的定位、优缺点和适用场景,解释它们为什么不是简单竞品,以及工程选型时应该如何组合。
基于 LangChain 对 Agent Harness 的分析,梳理 Harness 是什么、为什么重要、什么时候需要设计 Harness,以及如何在 Codex 工作流中落地。
NO MATCHING SIGNAL / 调整关键词或标签后重试
时间保留为检索坐标,而不是页面唯一的阅读顺序。