FROM: https://x.com/addyosmani/status/2117512471930167377?s=12&t=4kCb1gN1qYTWVHTJnmDaKA

卸载工作,别卸载判断

以前谈批判性思维,说的是带着谦逊的好奇和适度的怀疑去接触新信息:听不同的意见,再形成自己的判断。这话今天依然成立,但我的日常里已经很少有东西强制我这么做了——因为大部分工作都从 agent 走。对已经全面接受 agentic workflow 的工程师和产品人(同时开几个会话、期待模型自己变好),我想先把话说清楚:我很喜欢这些工具,这篇文章不是劝大家少用 agent。

我想谈的是另一件事:当把任何东西交给 agent 都变得轻而易举,你怎么把批判性思维留在自己的日常里。因为默认情况下,没有任何东西会替你做这件事。

思考的空间,被压缩到了几秒

过去,我们大部分的认知加工和审美判断,发生在问题与答案之间的那段空隙里。现在这段空隙以秒计。用得越多,保持判断力反而越难,但难的方式和人们预期的不太一样:模型在变好,明显错误的比例在下降。很多(也许是大多数)输出写得漂亮、大体正确,于是它们不再要求你再看第二眼。

可就算你同时跑很多个 agent,看输出的仍然只有你一双眼睛。所以你必须把批判性思维排进日程,像别的日常工作一样对待它。这件事难就难在,agentic workflow 是令人愉快的:忙碌的一天里,快速、顺手、经常正确的答案让人放松,而放松警惕也正是从这里开始的。

从卸载到投降,只有三步

跟人聊这件事时,我把它描述成一段光谱。

最上面是认知卸载:把任务交给 AI,但保留对结果的所有权。我整天这么做,你也应该这么做。中间是移交:工具的输出变成了你的新输入,结果不再是一个待验证的假设。最下面是认知投降:AI 的输出悄悄变成了你自己的,你觉得没必要检查。

这个词是 Wharton 的 Steven Shaw 和 Gideon Nave 提出来的,它很贴切地描述了我看到的情况:随着信任(或者懒惰)增加,人会沿着光谱往下滑。而这种转变很少被察觉,因为每一步都很渐进,每一步都显得合理。上一个答案你读得很认真,下一个就略读,再下一个只扫一眼骨架,然后有人问起某一行,你答不上来——即使有 agent 在旁边帮忙。

这就是认知债积累的方式。它通常在你试图调用一个关于系统的心智模型、却发现它根本不存在的时候才暴露。Margaret-Anne Storey 写过它在团队里如何表现为对共享系统理论的侵蚀;Jeremy Twei 造了「理解债」这个词,我写过代码版的对应物。当下它完全不可见:代码库看起来干净,测试也通过。直到你要改这个系统,才意识到已经没人真正懂它了。读了一份策略文档或 spec 的目录就签字,是同一回事。

我并不主张一件不可能的事。要求一个人维护大型现代代码库的完整心智模型,本来就不现实。Claude Code 团队公开说过,他们按需重建理解:需要理解哪一块,就让 Claude 解释哪一块,而不是把完整模型一直装在脑子里。如我以前写过的,这种债比多数工程师以为的更可恢复。你不需要一直持有完整模型,只要能在需要时就地重建;你真正需要知道的,是自己不知道什么。

风险低的地方,完全可以整个交出去。但当你连通过 agent 都解释不了某个答案时,你已经让出了所有权。这也不总是问题。我最近录一门课,要在三家评分相近的酒店里挑一个拍摄地,没时间逐条读评论,就把决定交给了 AI。它做得不错,我下次还会这么干。但换成怎么投资我们的钱、怎么建议孩子的职业,或者工作上该建什么、改动会影响哪些用户、能不能安全上线——这些我不会交。在犯错便宜的地方交接,在后果要由别人承担的地方保留推理。

在提问之前,先问自己六个问题

以前不知道自己在想什么的时候,我会回到一串很基础的问题:我怎么知道自己在解决对的问题?怎么知道方法是对的?有证据支持我的结论吗?怎么知道我完成了?多数时候,这就是 who、what、where、why、when、how。写出来幼稚得可笑,但它逼你去想那些本来会被忽略的类别。现在,跳过这一切、直接问 agent「你觉得我该怎么做」实在太容易了。下面是我现在问自己的版本。

在提问之前,我形成假设了吗? 跑任何非平凡任务之前,先写下——哪怕只在脑子里——我认为答案是什么。猜得差没关系,有了新信息你随时可以改主意。但一旦读完一段写得漂亮的回答,你就很难想象还有别的可能。如果完全没有头绪,就要 Thariq Shihipar 所说的「盲点扫描」:把你已知的东西给模型,让它找出你的未知之未知。

我是让它帮我思考,还是让它替我把思考卸载掉? 两者都可以,前提是你清楚自己在做哪一种。

要证明这是错的,什么必须为真? 然后去查。模型对自身信心的自评,远不如一个你能实际执行的测试有价值,所以给它一个测试。

我是否从另一个角度听过反方论证? 当我在某个开放问题上立场很硬,我会让不止一个模型论证反面,再自己看输出、形成判断。这更花时间,但我对这个主题的了解会多得多。

我敢不敢在维护它的人面前为这个下注? 代码和任何交付物都适用。我认为这就是「可回答性」的标准。

我不再练习的是什么? 也许是某些日常的调试。让一部分能力走掉可以,但我希望这是有意识的。

验证成为习惯,而不是看绿灯

我最近写了很多关于验证的东西,因为我相信瓶颈已经从写代码转移到了「确认自己是对的」。当你给 agent 验证手段——端到端测试、property test,或者真实的应用交互——它就可以修改、跑验证、读输出、再试一次,全在你还没看一眼之前完成。这就是 Boris Cherny 说的「给 Claude 一条验证自己工作的路」,我认为它是取得好结果最关键的部分之一。你不必逐行读代码,而是要搭建这些循环,然后审查证据。

但验证同样可以被投降。「有证据支持我的结论吗」会变成「检查变绿了吗」。agent 让写测试变得太便宜,你会看到很多绿色,而一个通过的测试可能根本没有覆盖坏掉的功能:如果测试和功能犯了同一个错误,它就会通过。一个绿勾也只传达一个属性,却太容易被想象成覆盖了一切。所以检查变绿时,问它证明了什么,再问它没证明什么。而且要事先定义「已验证」,因为事后你总会为任何结果找到理由。

agent 工作的终点应该是某种可触摸的东西:测试通过、一张截图、一份日志或 trace。这样完成的标准是事实,而不是「看起来做完了」这种可以被解释、也可以被投降的判断。收到 agent 的完成通知时,先看它执行的命令和输出,再看总结。

Claude Code 还可以用一个全新上下文的 subagent 来批评自己的工作,作为 sanity check。值得把它固化进循环,每次都跑,而不是想起来才跑。到最后我仍然会问一句:「我漏了什么吗?」听起来很傻,但经常是这样——用前沿模型做完一个复杂功能,看一遍、审一遍,再问「我漏了什么吗」,它会再补上两三件事。所以每次我都问。

当然,不必事事都这么较真;知道什么时候该深入是一种技能。Claude Code 团队那篇讲 code review 的文章里,我最喜欢的经验法则是:「如果你说不出这些检查会漏掉什么,就请求一次真正的 review,而不是快速批准。」

这也适用于代码之外。如果 agent 替你综合了五十通客户电话,或者一份竞品分析,抽几份源文档核对摘要是否准确;挑一个你的建议所依赖的数字,确认它算对了。agent 让验证的搭建变便宜了,真正难的是知道好的验证长什么样。

真正去读它生成了什么

假设 agent 给你一个六百行的 PR。你大致看一下结构,不逐行读。变量名看着合理,测试通过,于是你批准了。但中间某处藏着一个事务边界的顺序微调,或者一个你从没想过的边界情况的默认值被翻转。你确实 review 了——只不过只 review 了你已经知道会看到的东西。

写代码和 review 代码是不同的技能,而 review 到某个点就会变成盖章。所以把 diff 当成不是 AI 写的来读,然后越过 diff,去看 agent 做了哪些决定。在一个长会话里,它替你做了很多小决定:默认值是什么、什么算 out of scope、两条需求冲突时它重新解释了哪一条。这些都不会出现在「一切顺利」的总结里。所以要让它列出做过的决定和假设,然后考自己:随机挑几行,问这行是干什么的?那行呢?如果是文档,合上它,试着凭记忆写出主要论点。有人有个我喜欢的习惯:长会话里让 Claude 写一份变更报告,在底部附一道 quiz,规则是「只有满分通过我才 merge」。

理解你交付的东西,理解到能为它辩护的程度。因为总有一天,会有人来问。

agent 也可以帮你守住注意力。比如我有一个开源项目,会收到很多 pull request。我会用 agent 判断哪些正在进来、哪些违反了我们的准则、哪里可能需要我亲自看。我很少让 agent 自己决定,但它们可以把我该关注的范围缩小,然后我才能真正思考:这些改动是不是在用对的方式解决对的问题。

然后是量的问题,你必须对自己诚实。我把它叫作「编排税」:你的 agent 产出,和你愿意署上自己名字的东西之间的差距。如果完成的工作堆积得比你处理得快,再开一个会话也没用,除非你先解决这个差距——要么收紧检查,让更少的东西需要你;要么慢下来。当你产出的超过你能站台的,你已经不是在 review,你是在希望。

质量进,质量出

人的心智模型仍然在场,只是位置从中间移到了前端和末端。你把精力放在任务描述和上下文的前端,以及审查输出的后端。这就是为什么好的输入对输出质量如此重要,也是为什么我把好的 prompt 视为一项批判性思维技能。

在过去,如果你的请求不够具体,会有人质疑你,你可能会意识到:「等等,我其实没想清楚。」agent 通常不会在这里拦你。它把你漏掉的地方补上,交回一个看起来已经完成的东西,尽管背后的想法还是模糊的。我把它写成「意图债」:那些存在于你并不曾写下的产物里的隐含目标、约束和理由。和其他债不同,这一种没人能替你还。意图必须来自你。

你的 prompt 是你对问题理解的镜像。如果你表达不清楚,它可能在你脑子里也不清楚。所以在求助之前,用自己的话写一份需求简述:描述受众、哪些在范围之外、完成的定义是什么。当第二轮修正还没把你带到目的地时,别继续微调,重写你的 prompt。

你也可以让 agent 帮你做这件事。我喜欢 Andy Clark 对「委托给一个 AI 系统」和「与它协作」的区分。后一种情况里,你处在相互放大的良性循环中:你的 prompt 磨砺你的输出,磨砺你的下一个 prompt,也磨砺你对问题的心智模型。如果哪里不清楚,就让 agent 就它不理解的地方采访你。如果结束会话时你完善了自己的心智模型,那就是成功的标志。

也要小心输入。每个 agent 都顺手把上一个 agent 的摘要放进自己的上下文,这太容易了;用不了多久,第三个 agent 就已经没读过原始文档。

你还需要有自己的输出标准。我在很多创作媒介里试过 AI,大部分东西从没给人看过,因为它们没达到我的标准。现在一切都排版漂亮、语气自信,所以「精致」不再是有用的信号。AI 也许让生产变快了,但如果我不愿意把输出归到自己名下,我就不会发布它。当某样东西不达标,把原因记进共享配置、hook 或者测试里,让它不再发生。品味就是这样复利的;而记下某个东西为什么没入选,本身就是好习惯。

「但模型以后会比我更擅长这个」

如果你和我周围很多人一样看好这个领域,你可能在前面几节里已经想过:再过一两年,模型就能检测出我能检测的东西,那为什么还要维持这项技能?

在检测的很多方面,你可能是对的,我自己也一直在主张把越来越多的检测推给 agent。但我认为它仍然重要的原因是:归根结底,总要有人为上线的东西负责。不管 AI 帮了多少,责任必须由人来承担。

而「某个任务该信任 agent 到什么程度」,本身就是一个判断。保持校准的一部分就是 review 工作,因为模型出错的地方一直在变。Anthropic 对自己工程师和研究员的调查指出了这个陷阱,叫作「监督悖论」:「监督 Claude 所需要的,恰恰是那些可能因为过度使用 AI 而萎缩的编码技能。」

有些对我最重要的事情,是更好的模型不会解决的:你在建什么、为什么值得、它影响谁、你愿意牺牲什么。这些都得由你回答。agent 可以帮你把它们想清楚,我也希望它帮,但最终它们仍然是你的。你可以卸载工作,甚至卸载大部分审计,但不能卸载问责。

留在日常里的几个动作

你不需要把上面这些全都严格照做。挑适合你工作流的接进去就行。

每周一次,不用 agent 写一点代码,或者做一件「如果忘了怎么做会很糟」的真事。我把它叫作校准练习,但不是道德要求。每月一次,写下你已经停止做的事情,决定哪些是你可以不做的。我旧博客里的一个问题依然有效:如果 AI 不存在,你会迷失到什么程度?

如果某个东西超出了你的理解,就去学。我写作时遇到没见过的说法,本可以搜一行解释就放进去;但我更愿意做一点研究真正理解它,这样能看到它在哪里、和什么有关。

认真检查机器是真正的工作,假装它不是,团队最后就会不做。它不是免费的,所以把它当作一个 line item 排进日程,你才会真的去做。

你停止练习的技能会消失,而且可能比你猜的更快。继续做那些你不愿意放手的。

带走什么

有意为之。agent 可以考你、采访你、给你看证据,但只有你设置好,这些才会发生。所以,去设置。

对自己的位置诚实。如果你解释不了答案,即使有 agent 帮忙,你也已经投降了。

先有假设。提问之前先形成一个,哪怕很差。

绿勾只意味着一件事。它检查了什么?没检查什么?

去找证据。先读它跑了什么、返回了什么,再读总结。

读它做了哪些决定。它替你决定了什么?

打磨你的 prompt。你怎么写 prompt,说明你对这个问题理解了多少。

设一个标准,并且守住它。如果你不愿意署名,它就不该发出去。

让自己留在场上,手动应用那些重要的技能。有一件事你可以做:提问之前,写下你认为会发生什么;agent 做完之后,写下一条它没有检查的东西。试试看这是否改变了你读输出的方式。独立思考。问更好的问题。为结果负责。