Agent 替你工作,你还在思考吗?
保持判断力,需要保留一条能被现实纠正的路径:说明目标,提出可修改的判断,取得独立证据,再根据结果调整。 Agent 可以参与每一步;人需要知道这条路径在哪里可能失效,并保留介入的能力。
目录
原文:Addy Osmani,Critical thinking when agents do the work。
1. 答案越来越快,判断需要主动发生
Addy 的观察是:产出答案前的思考空间被压缩,流畅且经常正确的输出又减少了人停下来检查的机会。他将委托描述为一条连续谱。[1]
| 状态 | 人与答案的关系 |
|---|---|
| 认知卸载(offloading) | 委托任务,仍保留对结果的判断。 |
| 判断让渡(deferral) | 模型结论逐渐成为后续工作的既定前提。 |
| 认知投降(surrender) | 直接认领答案,已不觉得需要检查。 |
原文主张把假设、验证、理解与问责嵌入日常工作;同时允许低代价任务充分委托,也允许在需要时重建局部理解,无须把整个代码库记在脑中。[1]
如果生成、复核、解释都由 Agent 完成,什么还能纠正整个流程共同接受的错误?
2. 研究支持风险,但没有证明人必然越用越笨
不同研究测量的是建议采纳、思考投入或新技能学习,不能混为一种“智力下降”。
| 原始研究 | 主要发现 | 证据边界 |
|---|---|---|
| Shaw 与 Nave,2026,工作论文:3 项预注册实验,共 1,372 人、9,593 次答题。[2] | 在改编的认知反思题中,Study 1 相对无 AI 基线,正确 AI 建议条件使准确率约提高 25 个百分点,错误建议条件约降低 15 个百分点。 | 研究者操纵了建议正确性;结果支持特定任务中的错误建议跟随效应,未测量长期能力衰退。“System 3”是作者的理论框架。 |
| Lee 等,CHI 2025:319 名知识工作者,936 个工作实例。[3] | 对 GenAI 更有信心,与较少自报批判性思考相关;思考活动也向核实信息、整合输出和统筹任务迁移。 | 自报调查,不能证明因果。作者承认,参与者可能混淆“工作更省力”与“批判性思考更少”。 |
| Shen 与 Tamkin,2026,预印本:52 名开发者学习陌生的 Python Trio 库。[4] | 随机分配 AI 辅助后,AI 组的即时理解测验表现较低;完成时间的改善不显著。 | 使用的是聊天式编程助手,未直接测试完整 Agent 工作流或长期影响。概念追问等使用模式来自事后分类,不能当作随机干预效果。 |
| Buçinca 等,CSCW 2021:199 人,模拟 AI 辅助的食材替换任务。[5] | 先作判断、延迟展示等认知干预,在 AI 出错时减少了部分判断指标上的过度依赖。 | 总体人机表现没有显著改善,部分设计更不受欢迎;不能据此要求每个操作都增加确认。 |
这些结果支持一个有边界的判断:人的思考方式与信任有关,也会受交互设计影响;交付表现与学习效果可能分离。 至于长期使用更强的 Agent 会怎样改变专业判断,仍需要长期追踪及真实工作场景中的证据。
3. 把批判性思维落实到四个判断
结合这些研究,可以把判断力落实到四个工作环节。
目标:这件事究竟在优化什么?
“提升转化率”留下了许多选择:优化付费、留存还是点击?允许增加多少投诉?Agent 能把含糊目标实现得很完整,但这些取舍需要利益相关者确认,或在明确授权范围内处理。
因此,开始前至少明确一项成功标准和一项不能被牺牲的约束。陌生领域可以先让 Agent 解释背景、梳理选项;随后由人确认取舍。批判性思维也包括质疑最初的问题是否值得解决。
证据:哪项观察能区分两个解释?
先有自己的猜测很有帮助,但猜测也可能成为新的锚点。一个更完整的写法是:当前解释、替代解释、能区分两者的观察。 两者都不确定时,保留“不知道”。
例如,接口变慢可能来自数据库,也可能来自下游请求。此时多生成几段有说服力的分析,信息增量有限;分段耗时记录才能帮助判断。改变结论的依据应可追溯到观察或明确约束。
边界:验证究竟覆盖了什么?
需要把“通过”拆成具体主张:功能是否符合需求、极端条件是否成立、测试环境与实际环境有哪些差异。模型自评、另一个模型的赞同、真实运行记录,提供的证据并不相同。
多 Agent 可以扩大检查范围,但它们可能共享错误的需求、摘要或样例。复核是否有效,取决于它能否引入不同的约束和观察。 给复核者原始材料、验收标准和失败样例,通常比只给它生成者的解释更有检验价值;这是工程推论,需要按任务验证。
决定:证据不足时,谁有权暂停?
“有人负责”只有配上审阅时间、原始证据、拒绝权和可行的补救方式,才可能形成有效监督。否则,签字只是把责任落在一个没有判断条件的人身上。
团队还要控制需要人工判断的工作量。如果这部分产出持续超过审阅能力,积压就会增长。此时应缩小批次、提高自动检查覆盖,或减少并行任务;认真审阅需要被计入交付成本。
4. 一个例子:测试全绿,为什么仍可能重复扣款?
以下是用于说明机制的假设案例。 某支付接口依靠客户端提供的业务幂等键去重,没有另设按订单号强制唯一扣款的约束;网络超时后,客户端暂时不知道服务端是否已经完成扣款。
Agent 接到“给支付请求加自动重试”的任务,很快完成实现和测试:第一次请求超时,第二次返回成功,测试通过。若实现和测试都默认“超时表示没有扣款”,两者会一起漏掉“扣款成功、响应丢失”的情况。
要审查这项改动,可以先提出一条业务约束:同一笔订单不能因网络重试产生第二次扣款。 随后构造反例:服务端已处理请求,但响应没有送达客户端;客户端再次提交。
这时要看的证据包括:重试是否沿用同一个业务幂等键,服务端是否按该键去重,以及最终账本记录。具体处理还取决于接口契约、幂等键有效期和状态查询能力。只检查第二次返回成功,无法回答这个业务问题。
理解也可以这样检验:先暂时关闭解释,预测“如果每次重试都生成新键,会发生什么”,再运行对应场景。能够在条件改变时作出可检验的预测,比复述“幂等可以防重复”更能暴露理解缺口。
这个例子也能迁移到研究与运营:核对关键结论的原始资料,检查指标分母是否变化,寻找摘要遗漏的反例。检查对象始终是支持决定的那条因果链。
5. 把交付和练习分开,才能持续使用 Agent
先区分任务的学习价值。 熟悉、低风险、容易回退的事务,可以充分委托;正在建立、以后又要用来监督系统的能力,需要保留实际练习。每项任务都从头手做,成本很高;每项任务都只验收成品,也无法保证能力增长。
适合保留的练习,是能够暴露判断缺口的小任务:对一段异常日志提出两个解释,预测一项约束变化的后果,或独立设计一个会让当前方案失败的样例。随后让 Agent 提供反馈,再用文档、实验或真实结果核对。练习频率应随能力的重要性与反馈调整,现有研究没有给出通用剂量。
让信心接受事后检验。 对少量重要决定,留下“当时相信什么、根据什么、什么会使我改判”。结果出现后再回看。模型赞同自己的猜测,只说明两者一致;判断是否可靠,要看后来发生了什么。
对于新手,必要的背景知识要先补上,才能提出有效反例;对于专家,要警惕在熟悉领域把审阅变成惯性批准。Agent 可以通过提问、解释和反馈参与练习,验收则应包含一个改变条件的新问题。
6. 即使模型比人更强,判断仍有具体位置
模型更擅长找错,会改变合理的分工:人可以把更多检查交给系统,再依据可核查的记录和实际表现决定信任范围。强行要求人在每项局部任务上胜过模型,没有必要。
但系统仍需有人确定目标与代价,识别适用条件变化,并在证据不足时调整授权。专业能力也因此需要有选择地保留:足以提出关键问题、识别异常、重新建立理解,以及找到合适的专家。
人对某项任务的理解可以暂时不完整,但恢复理解和修正决定的通道应当始终存在。
参考资料
资料截至 2026 年 11 月 3 日。
- Addy Osmani,Critical thinking when agents do the work。延伸阅读:Cognitive Surrender。
- Steven D. Shaw、Gideon Nave,Thinking—Fast, Slow, and Artificial。Wharton 作者页及摘要;论文 PDF 公开副本。工作论文,见作者研究列表。
- Hao-Ping Lee 等,The Impact of Generative AI on Critical Thinking,CHI 2025。原论文 PDF,尤其参见 §6.3 局限。
- Judy Hanwen Shen、Alex Tamkin,How AI Impacts Skill Formation。Anthropic 研究说明,2026-01-29。
- Zana Buçinca 等,To Trust or to Think,CSCW 2021。原论文 PDF,总体表现未显著改善见 §6 对 H1b 的讨论。
评论公开保存在 GitHub Discussions。