一篇说到第一次尝试两周就止损了。有朋友问怎么就失败了不是有AI吗有AI可我栽的恰恰是AI。把代码交给AI我以为稳了动手之前我做了充分的准备——至少当时是这么以为的。第一周做架构设计。我和AI一起讨论把系统拆成几个主要功能模块每个模块也做了一些基本的规定和约束业务也做了大致梳理然后就交给AI分模块分期开发。开发过程中我特别强调一点严格按照既定框架由AI自主开发由Skill对过程进行约束。心想有框架指引有过程约束前期讨论模型也参与了的相当于给它充分的上下文和空间它一定能完成即便出点差错也是小问题整个项目仍处受控状态。那段时间说句不谦虚的话从业务到技术我都觉得十拿九稳。业务是我干了大半辈子的老本行技术上有AI兜着——这不就是最理想的分工吗我管懂它管写剩下的事交给AI执行就行。我甚至用上了那些编程控制工具Superpowers、约束、规范能用的都用了。整体逻辑闭环工具也不差怎么可能会出岔那几天看它每天交作业质量还挺像样每个模块单独拿出来都能跑人工测也没问题。我甚至有点相信AI就是最懂我的那个超级助理。编程就是这么顺利——按部就班到点交活丝滑得让我觉得这项目稳了。两天测试它就让我认了输开发很顺真正的崩盘集中在最后两天的联调测试。模块都写完了一联调问题全冒出来。A模块里定义的变量B模块里叫了另一个名字——指的是同一个东西可代码里谁也不认谁。一个模块说状态是1就是已审核另一个说状态是2才是已审核——各自的逻辑都对放在一起数据就对不上。这不是谁写错了。是每个模块都是AI在一次次独立的对话里写出来的。每一次对话它都从零开始不记得上一个会话里自己是怎么命名的、定过什么约束。模块之间像一群各说各话的人——每个人都言之有理凑到一起鸡同鸭讲。失控的方式很怪联调过程中你让AI去修查重模块但它把已经调好的验真模块又改坏了但你并不知道你让它去修锁票模块它又改了另一模块你按着顺序修完了所有的bug再调验真程序又出问题了……AI带着你在它写的代码里转来转去修了这个坏那个补了那个崩这个——永远有一只脚踩在坑里出不来了。我一个小小的项目竟也让我尝到了《人月神话》里焦油坑的滋味。特别是最后一天我改代码改出了打地鼠的感觉按下这一处那一处冒起来按下去那一处这一处又鼓回来。AI倒是脾气好你说改哪它就改哪从不抱怨改完还给你展示劳动成果。你看着那一行行工工整整的代码甚至不好意思跟它发火——它是真的努力也是真的不记得。落差有多大只有经历过的人才知道。上周还十拿九稳自己复盘起这项目整个感觉就是不可能有问题转过天就陷在焦油坑里拔不出来。不是难过是发懵——能做的都做了总体方案、工具约束、模块分工样样安排得明明白白怎么还是塌了它是清北的脑子却得了健忘症为什么约束这么好它还是会跑偏我想了很久想到一个比喻AI像一个得了健忘症的顶尖天才。你给它一个任务它全力以赴写得又快又好——清北的脑子真不是吹的。但每完成一段它就睡过去了。下一次醒来它不记得自己上一次是怎么想的、为什么这么写、跟哪些地方有过约定。你重新给它看上下文它很努力地回忆但它能看到的只是你递给它的那几页纸——窗口里的那几页纸。它不是不聪明。它是聪明到极致却记不住自己聪明过。它没有对整个系统的记忆。它只有响应。所以每一次对话它都竭尽全力给你对的答案——对它眼前这几页纸来说对。但系统不是几页纸。系统是几十个文件、几百个接口、几千行代码织成的一张网。网和网之间的那些线是它每次醒来都看不见的。于是代码开始漂移。一点一点地从你最初设计的架构上滑出去。每一次都只偏一点点单看都合理攒在一起就成了一个你没画过的形状。框架约束的是边界约束不了连续性。边界是墙连续性是一条河。墙立住了河还在慢慢改道。后来我又往深处想了一层发现这问题的本质比健忘更扎心。我总以为是AI的上下文不够——窗口就这么大装不下整个系统。这话对但只是表象是从下往上看的结论。从总体层面向细节看真正的根源是全局对上下文的约束不够。不是它装不下是它不知道外面有个全局在管着它。系统的整体设计、模块之间的约定、变量和约束的统一——这些全局规则如果没有被足够强地注入每一次对话那么AI每次醒来面对的就是一座孤岛。它不知道海的那边还有别的岛更不知道岛和岛之间应该有一座桥。这个认知解释了我在调试阶段遇到的最诡异的现象AI修错只修眼前。你让它修A模块的bug它就只盯着A改得又快又干净。但它不会回头看这改动会不会让B的调用崩掉、让C的数据对不上——因为它根本看不见B和C。它没有恶意它只是不知道。于是每一次修复都在制造新的裂痕。修到最后不是代码的问题是整个系统的问题——不是哪儿坏了是哪儿都对不上了。这就是拆东墙补西墙的根源不是墙不结实是砌墙的人眼里只有一块砖。复盘到最后我栽在两个失误上写到这里说句公道话这次失败不全是AI的错。复盘了很久发现自己真正栽在两个失误上。第一个失误也是最大的失误我把决策权交给了AI。一开始我是这么想的前期规划好了AI就是个执行者——我说什么它写什么不需要它有什么决策。这个认知本身没错。AI本来就该是个执行者。错就错在我的前期规划深度不够。架构是大致的模块之间的咬合、变量的统一、约束的对齐这些关键决策都没定死。于是执行过程中处处都是模糊地带这个状态怎么流转那个字段怎么定义接口按什么规矩来没人告诉AI答案它就只能自己决定答案。它不是想决策是被迫决策——因为我把该做的决策留成了空白。于是一个本该是执行者的工具在关键的地方替我做了本该由人做的决策。而这些决策恰恰基于它有限的视野、失忆的记忆、以及对业务一知半解的懂作出的而我还天真地认为既然它都知道交给它就是最合理的选择。我以为我雇了个执行者实际上我偷偷把系统最要紧的决策移交给了它。这是我最大的失误。第二个失误我以为我懂了跟它沟通过后它也懂了。我懂不假——毕竟干了三十年业务长在我脑子里。但跟它沟通后它也懂了这是我基于与人类合作经验延伸至与AI合作的幻觉。AI的懂了是什么是我说的那段话它复述了一遍然后顺着我的意思给出一个肯定的回应。它没有三十年没有在审计现场摸爬滚打过它不知道我说预算控制的时候心里想的是哪一环节的合规红线。它或许听懂了我的话但它没有理解我的业务。我把它复述了我的话当成了它理解了我的意图。这是我的误判。这两个失误其实是同一个根源在AI时代人最容易犯的错就是把本该自己扛的认知责任外包给了AI。再往深处想一想这个外包其实是一种习惯成自然。干了几十年的人最熟悉的合作方式就是跟人合作沟通好了方案定下来交代下去就OK了。人是靠得住的——有记性有责任心会自己协调不懂的会来问你。所以跟人合作你不需要盯每一步把话说清楚他自然会办妥。我用的正是这套方式。方案跟AI讨论好了交代下去我就等着它交卷了。至于监督在我的老习惯里监督是稀疏的——因为人靠得住你信任他他扛得起。可AI靠不住我却用靠得住的标准去要求它监督自然就跟不上了。它交上来的东西越来越走样我还在用人偶尔会出错的心态去理解它——错了就改嘛人改了就记住了。可它不是人它改了这次下次醒来照样忘。说到底我的思维还停在与人的合作里没有适应人机合作的规矩。我以为我是在管理一段合作其实我只是在用一个旧习惯面对一个新物种。后来我才发现栽在这上面的不止我一个。我们总以为跟AI说清楚它就能懂给它时间它就能想明白。这是两件流传最广、也最危险的错觉。AI没有想它只有响应AI没有懂它只有复述。它接得住执行接不住认知。所以后来我想明白一件事跟AI协作最要紧的不是把话说得多清楚而是把决策权、监督权都留给自己把执行交给AI。AI可以参与讨论也可以参与决策——它的建议往往又快又全值得听。但它是执行体不是决策体。凡是为什么这么设计的问题都得人自己想透AI只负责把想透的东西变成代码。监督是比决策更耗神、也更绕不开的一环。过程中的约束——规则、边界、规范定得越死跑偏的空间越小事后的监督——审查、测试、拉通做得越细隐患越少。决策权在自己手里监督权也在自己手里AI才真的只是个执行体。这是我跟AI磕了两周磕出来的根本之道。刚入园就摔了一跤。这一跤摔得不冤——它让我看清了园子里的路。第一次就这么失败了。但这次失败让我知道自己错在哪了。知道和做到之间还隔着一个多月的笨功夫——那是下一篇的故事。下一篇摔了这一跤我干了件所有人都觉得多余的事008-AI实战心得漫笔 老登入园系列一一个人三个月一个企业级应用007-实战心得漫笔 五个主力订阅为啥订不住现实的需要006-实战心得漫笔接受人工智能时代人类的新角色-从执行者到问题定义者和结果评判者005-研究自动化测试输出结果PCAOB 执法标准研究基于监管公告的内容分析2008-2025004-关于PaddleOCR-VL-1.6 本地部署与测试实验报告003-从规则到创造揭秘Anthropic Skills决策路径的技术逻辑002-为什么我花大力气封装的AI技能Skills干不过精心编写的一行提示词001-如何选文档处理Skills工具Anthropic、MiniMax和OpenAI谁更胜一筹