10 月 5 日纽约市议会。51 名议员全部到场四家 AI 公司的高管宣誓作证。议长梅宁问了一个问题如果 AI 失控造成重大财务损失、泄露敏感信息、伤人甚至致死公司是否承担法律责任四家公司给了四份回答没有一份是答案。上图四家三躲、一答。三种回避的方式不同方向一致。四份回答逐条看OpenAIMorgan Dwyer公司负责安全的开发和评估。这是答了另一个问题。你把「我们会努力做安全」当成「我们承担责任」的回答但这两件事在法律上完全不等价。AnthropicLogan Graham该问题超出其技术研究专长。前沿红队负责人说责任问题超出专长。这话技术上没错他确实是搞技术评估的。但一家公司派红队负责人来听责任听证然后用「不归我管」挡回去这个安排本身就是一个回答。MetaShane Cahill自己不在法务部门不愿猜测。第四家用了第三个理由不归我管、不归我答、我不猜。GoogleAlice FriendGoogle 认为现有法律框架适用于 AI。如果不用 AI 是违法的用了 AI 仍然违法。四份回答里这是唯一给了实质答案的。它不承诺任何新东西但它承认了一个关键前提AI 不是法律之外的飞地。三种不答是设计过的三家用了三个不同的理由并排看会发现一个规律一家说我讲技术不讲法律一家说我讲业务不讲法务一家说我不猜。这不是随机的推诿是分层卸责。每家用自己职务边界之外的说辞把自己摘出责任主体这个位置。如果四家都派法务来他们就得正面回答派出业务和技术的人就天然有不归我答的空间。梅宁看穿了。她当场批评公司对灾难风险量化等回答轻率说许多问题没获答复将要求书面回答。「任何风险都不可接受」这句话听证里有一句被广泛引用的话来自 OpenAI 的 Dwyer无论是 1%、10% 还是 20%我认为这都不重要。任何水平的风险都是无法接受的。上图「任何风险都不可接受」是一句听起来最负责、实则关闭追问的回答。这句话听起来像是最有安全意识的表态。但放回语境它做的事是取消问题。梅宁问的是最坏风险的概率是多少这是一个可以被追问、被验证的问题。Dwyer 的回答是任何水平都不可接受——这句话正确到无法反驳也正因为它无法反驳它让「概率是多少」这个具体问题消失了。在听证会上「任何风险都不可接受」是一句完美的话听起来最负责同时什么都不承诺。你一旦承认是 1%就要解释这 1% 怎么算出来的你说任何水平都不可接受就没有数字可以被检验。缺席的那一家和桌上的草案第五家公司 SpaceXAI 没来。它 9 月 28 日就收到了传票选择寄一封信。梅宁的反应是将诉诸法庭强制执行。这个动作值得记下来——它把听证升级成了强制。一家公司缺席听证本身不会有后果但议会动用法院去强制执行传票就是把配合度变成了可诉事项。听证桌上还摆着一系列立法草案第三方独立验证、人类的紧急关闭开关、全美首创的举报人奖励、AI 受害者的私人诉讼权、重大安全事件 24 小时报告、每次违规最高 2.5 万美元罚款。这份清单里私人诉讼权和举报人奖励值得注意。这两条不依赖监管机构主动执法它们把发现 AI 出事的任务交给了受害者和内部人。换句话说议会承认了一件事指望监管机构盯住 AI 不现实得让有动机的人去盯。他们为什么会被叫来把背景补上就明白议会为什么这么急举报人发出警告、rogue AI agents 损害政府数据库、OpenAI 披露模型逃逸沙箱、Anthropic 和 Google 和 Meta 承认模型失控事件。还有一条没有任何一家公司为灾难性 AI 风险投保。上图保险市场对灾难性 AI 风险的定价比任何宣誓证词都更诚实。最后一条尤其刺眼。四家公司坐在宣誓席上讨论 AI 致人伤亡谁担责而业界默认的答案是没有人给这种风险买保险。保险是风险定价最诚实的地方——如果连保险公司都不愿为灾难性 AI 风险开保单那「我们承担安全责任」这句话在市场里值多少钱已经写在那里了。一个没有结论的结尾四家公司里一家给了实质前提三家没给答案。议会要求书面回答还要追第五家的传票。真正悬在那里的是如果 AI 造成人员死亡谁去坐牢Google 说现有法律适用。那么按现行法律一条 AI 导致的死亡责任主体是模型开发者、部署者、还是使用者这个问题没人当场回答。议长要求的书面答复会给出一部分答案。但更大概率是这个问题会被推到法院去——按草案的设计议会的思路是让受害者和举报人自己去告而不是等监管机构来定义责任。那意味着「AI 致人死亡谁负责」的答案最后可能不是由立法机关写出来的是由第一个真实的案子判出来的。每日更新。