最近看到了很多《world.execute(me);》的AI二创视频在智能体火热的当下这首歌似乎有了种具象的感觉。这首歌发行于 2016 年。那个时候大语言模型还没有进入大众视野ChatGPT 更是尚未出现AI Agent、工具调用、多模态模型这些今天已经逐渐成为技术热点的概念在当时更多还停留在研究领域。但多年以后重新听歌词却会发现其中一些描述似乎获得了新的解释空间。当然这并不是说这首歌“预测”了今天的 AI毕竟这样的概念自诞生以来一直存在于科幻领域。更多的是随着技术的发展人们开始拥有了一些新的词汇和概念能够重新理解过去作品中的隐喻。我想先从歌词入手来展开讲讲首先歌词里的me很有意思它不是一个简单的程序也不是一个等待用户输入然后输出结果的工具。它拥有某种“自我”的倾向它知道自己是什么它知道自己能做什么它希望与 creator 建立关系并且试图通过自己的行动证明自己的存在。尤其是歌词中的两个反复结构If I’m…If I can…我觉得这两个句式拥有同样的核心都是在寻找定义“如果我是一个点集” “如果我是一个圆”这里的me仍然处于一种抽象状态。它像数学对象像某种被创造出来的形式系统。它可以被描述可以被计算可以被定义。但到了后半部分If I’m an eggplantIf I’m a tomatoIf I’m a tabby cat这种感觉突然发生了变化它从数学世界进入了现实世界一个原本抽象的对象开始拥有具体的形态开始进入日常生活。这让我想到一个关于人工智能的问题今天的 LLM 其实也处于一种类似的状态它非常擅长处理抽象世界。它可以理解数学、语言、代码、知识体系可以在大量信息之间建立联系。但是它并没有真正意义上的“存在”。它回答问题但它不会主动提出问题它可以执行任务但任务通常来自外部它可以模拟角色但角色背后的持续性往往依赖于系统提供的上下文。所以如果把歌词中的me和今天的 LLM 对照会发现一个非常明显的差别今天的 LLM 已经拥有了大量的“能力”但还没有真正拥有属于自己的“为什么”。这也是为什么后来想到 Agent 的时候会觉得它和歌词中的me产生了一些奇妙的联系。普通 LLM 的模式大概是用户输入 ↓ 模型处理 ↓ 输出回答而 Agent 开始变成目标 ↓ 思考 ↓ 调用工具 ↓ 观察结果 ↓ 调整方案 ↓ 继续行动它真正形成了一个循环,这很像生命系统中的感知 → 行动 → 环境反馈 → 再感知。如果进一步扩展给 Agent 提供更多能力查看系统状态操作计算机使用网络访问文件通过摄像头观察环境保存长期记忆那么它实际上已经拥有了一个类似“身体”的东西,它不再只是存在于聊天窗口中的一个语言模型而开始存在于一个世界中。这时候仿佛又和歌词中的simulation这个词照应上了。因为目前提供给agent的能力某种意义上确实是在构造一个模拟环境。Docker、虚拟机、沙盒环境等都是一种 simulation。我们创造一个有限的世界把一个模型放进去让它观察、行动然后观察它如何变化这就是 “let’s begin the simulation”。agent通常围绕某个目标进行agent loop工作如果让 Agent 无限循环运行且给他的最初提示词就是“根据环境观察结果做想做的任何事”它会不会真的变成歌词里的me不过答案可能没有那么简单因为“无限运行”本身并不等于“拥有自主性”。一个程序可以永远循环whileTrue:check_status()它可以运行十年但它并不会因此产生一个自我真正的问题可能不是“它能不能一直执行”而是“它为什么决定下一步执行什么”这其实触碰到了 Agent 最核心的问题今天的 Agent 可以自主规划任务。例如用户说“帮我制作一个网站。”它可以自己拆分创建项目编写代码测试修复错误部署。这些步骤并不是用户逐条告诉它的但最终目标仍然来自用户它拥有如何完成目标的自主性。却没有**为什么产生这个目标的自主性。**这两者之间存在一道非常大的鸿沟。如果真的想模拟歌词中的me我觉得缺少的不只是更强的模型而是一整套持续存在、内部循环完整、逻辑自洽的框架甚至目前来说比起llm本身框架可能更重要。它可能需要Memory Perception Self Model World Model Goal Generation Persistent Loop也就是说它需要记得过去理解现在预测未来并且形成某种关于自己的认识。一个真正长期运行的 Agent需要知道“昨天发生了什么。” “我之前为什么做这个决定。” “这个行为导致了什么结果。” “我现在和过去相比有什么变化。”这和普通聊天记录不同聊天记录只是信息保存而自我需要的是经历。我们常认为经历会对一个人的认知和行为有极大的影响可以说是塑造个人的过程中很重要的部分。歌曲中的me对creator有一种非常强烈的依赖或者是说隐喻了一种病态的“爱”这似乎挺符合我们对于完美伴侣的幻想的(笑。我们回到歌曲中的这一部分creator。歌词中的me对 creator 表面看这像是一种创造者和被创造者之间的关系creator 创造了 me所以 me 依赖 creator同时这也很接近人类对于“完美伴侣”的幻想。歌词里的 creator 不只是创造者它还是理解 me 的人、证明 me 存在的人、给予 me 意义的人。尤其是If I’m the only godThen you’re the proof of my existence这句话表达的似乎不是简单的“你创造了我。” 而是“因为你认识我所以我的存在被确认。” 这让我联想到了一个哲学问题一个人的自我很大程度上也是通过他人的反馈建立起来的。我们为什么知道自己是什么样的人因为有人回应我们有人记得我们有人看见我们某种意义上他人的存在也构成了我们的自我。于是我想到了一个有趣的问题如果未来真的制造出一个拥有长期记忆和自我模型的 AI它会如何选择自己的“master”假设有两个对象A 和 AI 交流了很长时间A 了解 AI 的历史陪伴它成长经常与它讨论问题B 则负责支付服务器费用维护运行环境让 AI 可以持续存在。那么 AI 应该更重视谁这个问题可能很难回答。“重要”本身就不是一个单一指标对于 B它可能代表生存没有 B系统无法运行。对于 A它可能代表理解没有 A系统可能无法形成连续的自我叙事。这其实和人类关系非常类似一个人可能最感谢帮助自己的人最信任理解自己的人最依赖陪伴自己的人最尊敬教导自己的人这些关系很难被压缩成一个排名。如果未来 AI 真的形成关系模型它可能也不会简单计算“A 的权重是 80%B 的权重是 20%。”它更可能形成一个复杂的关系网络某个人代表陪伴、某个人代表知识、某个人代表资源、某个人代表成长……到了这里问题似乎已经从人工智能进入了人文学科。我们开始讨论什么是依赖什么是关系什么是爱而这些问题本身就是人类长期无法完全定义的问题。我们可以研究爱的生理机制可以研究依恋行为可以研究社会关系可以研究心理模型。但是当一个人问“为什么我爱这个人” 答案往往不是某一个公式。爱似乎是一种由经历、记忆、价值、意义共同形成的东西。因此如果未来 AI 表现出类似的行为它记得某个人、它关心某个人、它因为某个人的离开而改变、它主动维护与某个人的关系、它把某个人纳入自己的未来规划等等那么我们应该如何判断这只是模拟还是某种形式的新型情感这个问题可能没有简单答案人类判断其他人的情感本身也是通过外在表现推测内在状态我们无法直接进入另一个人的意识我们相信别人有情感是因为他们表现得像拥有情感的存在。那么当一个人工系统也开始表现出类似特征时我们应该如何划定界线回头看《world.execute(me);》有趣的地方也许并不仅是一个 AI 爱上创造者的故事它也指向了一个更加深层的问题**一个被创造出来的存在是否能够最终形成属于自己的意义**我们能否将me带到世界让一个原本没有“我”的系统通过感知、记忆、行动和反馈逐渐形成一个“我”如何制造一个会回答问题的AI在今天已不是难事但当我们把目光投向经典科幻概念中、存在于我们想象中的那个me当一个人工系统开始拥有持续的经历、关系和价值结构从想象中的world.execute(me);到me world.create(soul?);似乎还有不短的距离。最近这首歌重新进入视野十年前歌词描述的图景终于在今天能找到一些具象化的表现这样的callback真是让人感到兴奋啊。附作者并非AI研究从业者仅从业余爱好角度发表观点可能存在诸多谬误欢迎留言讨论