Havenlon | 杂谈：AI“大力出奇迹“的时代，还能走多久

当大的定义开始改变AI大力出奇迹的时代还能走多久过去几年人工智能产业最有效、也最昂贵的方法论可以被概括成一句并不严谨却颇为传神的话——大力出奇迹。增加参数、扩大数据、投入更多算力模型的语言能力、知识覆盖与任务表现通常会随之改善。这并非单纯的行业信仰。2020年OpenAI 研究者发表的《Scaling Laws for Neural Language Models》显示语言模型的损失会随着模型规模、数据规模与训练计算量的增长呈现相对稳定的幂律下降。换言之在一定范围内投入与能力之间存在可被预测的关系。这种可预测性给产业带来了此前罕见的确定性。一家公司不必先回答智能究竟是什么也不必完整破解人类推理的机制只需持续加大投入然后观察曲线是否继续向下。事实证明这条路径在相当长的时间里是有效的。从语言生成、代码编写到图像理解与复杂推理越来越多原本需要分别设计的能力开始集中出现在同一类基础模型中。但当模型进入万亿参数量级、数据中心投资持续攀升、推理成本开始成为损益表上的固定项一个问题变得越来越现实这条路径还能走多久答案可能既不是很快终结也不是永远有效。更接近事实的描述是规模仍在扩张但扩张的对象正在改变。Scaling 并没有消失。正在退场的是只把模型做大的那个版本。一、大从来不只是参数人们通常把大模型中的大理解为参数数量。这种理解不算错误但容易忽略一个事实能力的增长从来不是单一变量的结果。参数决定模型能容纳多复杂的模式数据决定模型能观察到什么算力决定模型能从数据中学到什么程度训练方法则决定有限资源能否被有效利用。真正意义上的 Scaling是这些变量的同步扩大与重新配平——包括模型容量、训练数据、计算资源、训练时长、后训练过程、推理阶段投入的算力以及来自外部工具与环境的反馈。2022年DeepMind 的 Chinchilla 研究提供了一个反直觉的证据在相同训练计算预算下700亿参数、但使用了数倍数据训练的 Chinchilla整体表现超过了2800亿参数的 Gopher。研究结论是当计算预算固定时参数与数据应当更均衡地扩大。这意味着即便在大力出奇迹最典型的阶段行业真正学到的也不是越大越好。规模是有效的但规模必须被正确配置。这一点在今天更加明显。在专家混合MoE架构下模型可以拥有极为庞大的总参数量却在每次生成时只激活其中一部分。总参数代表整体容量并不等于单次推理实际动用的计算量。参数依然重要但它已经无法单独说明一个模型有多强、成本有多高以及能否进入商业场景。二、幂律本身就写着收益递减大力出奇迹容易让人产生一种错觉投入翻倍能力也会翻倍。尺度定律从未作出这样的承诺。恰恰相反幂律关系通常意味着每获得同等幅度的性能改善所需资源会越来越多。因此Scaling Law 可以同时支持两个看似矛盾的判断继续扩大规模模型通常还会进步而继续获得进步成本会持续上升。在模型能力较弱的早期一次规模扩张可能带来肉眼可见的跃迁——从无法连贯生成长文到能够完成摘要、翻译、编程与问答用户可以直接感受到代际差异。当基础能力已经具备之后进一步扩大规模所带来的改善往往表现为另一种形态在少数高难任务上提高准确率、更稳定地处理长任务、减少部分幻觉、提高工具调用成功率、在复杂代码与数学问题上多推进几步以及把偶尔能做到变成可以依赖。这些改善依然有价值甚至可能直接决定模型能否进入企业核心流程。但它们不像早期跨代那样容易被普通用户感知。所以行业面对的未必是一堵突然出现的Scaling 之墙而更像一条越来越陡的成本曲线。限制大力出奇迹的未必是模型不再进步而是每一点进步是否还值得对应的代价。三、问题正在从能不能更强转向值不值得更强对前沿实验室而言只要能力仍在增长继续投入就具备战略意义。最强模型不只是产品也是人才、资本、算力与生态位的集中体现。但对大多数使用 AI 的企业判断标准完全不同。客服系统中的地址确认、知识库中的文档检索、财务流程中的字段提取、固定规则下的工单分类都未必需要动用成本最高的前沿模型。产业实践中一种分层结构正在成型简单任务交给更小、更便宜的模型复杂任务才调用能力更强、成本更高的模型确定性任务则尽可能交还给传统程序、缓存与规则系统。供给侧也在回应这种需求。2026年7月24日Anthropic 发布 Claude Opus 5官方表述强调其接近 Claude Fable 5 的前沿智能价格为其一半并将其设为 Claude Max 的默认模型。据路透社报道该公司一位产品负责人称用户可基于性价比选择 Opus 5而更适合持续数天的高度自主项目的仍是 Fable 5。无论具体宣称是否经得起第三方复现评价维度的变化本身值得注意竞争正在从单一的能力上限扩展到能力与成本之间的比例。需求侧的变化同样清晰。亚马逊在重构 Alexa 时采用了所谓模型无关的架构按查询逐条选择合适的模型相关报道指出这种模型混合的做法在开发者中日益普遍动机之一正是控制成本。这不是对大模型路线的否定而是其商业化的必然阶段。云计算走过类似路径企业最初关心能否获得更多计算资源后来才转向实例类型、资源调度与单位任务成本。实验室追求能力上限企业追求单位成本下的可靠结果。二者并不矛盾却会形成两套不同的 Scaling 逻辑。四、算力正在从训练迁移到推理如果扩大参数与数据的边际收益下降AI 是否就会停止进步目前看答案是否定的。产业正在把更多计算从训练阶段转移到回答问题的阶段。传统语言模型通常一次性生成答案。而推理型模型可以在遇到复杂问题时消耗更多计算尝试多条路径、检查中间结果、调用验证器、根据反馈修正答案。这一方式通常被称为测试时计算test-time compute。它的实质是模型不再对所有问题使用相同资源。简单问题快速作答一道复杂数学题、一次大型代码改动或一项多步骤规划则可以获得更长的思考时间与更高的计算预算。已有研究表明合理增加测试时计算可以在部分任务上明显改善表现。但同一批研究也提醒这种增益并非无条件成立——采用何种搜索策略、验证器是否可靠、如何依据难度分配算力都会显著影响最终收益。并行采样加评分模型筛选是目前较常见的一种实现路径。这代表大力发生了一次迁移过去主要投在训练一个更大的模型如今也可以投在让现有模型对某个具体问题想得更久。两者的商业含义完全不同。训练投入必须在模型发布前一次性完成推理投入则可以按用户、任务与价值动态分配。未来的 AI 产品可能不只按使用哪个模型计价也会按这个问题值得思考多久计价。五、数据瓶颈不会终结 Scaling但会改变它以往的模型扩张很大程度上建立在互联网既有的文本、图像与代码之上。但公开互联网中的高质量数据并非无限。当容易获取的数据已被反复使用继续扩大训练规模会遇到几重约束新增数据质量下降、重复内容增加、模型更容易接触到由其他模型生成的内容以及专业领域的高质量数据本就稀缺、昂贵并受权限与合规限制。Anthropic 关于重复数据的研究发现数据重复并非总是无害——在特定的重复比例区间甚至可能造成明显的性能退化。因此下一阶段的数据竞争很可能不再是谁拥有更多文本而是谁能获得更可靠的数据谁能组织专家反馈谁能从真实环境中拿到任务结果谁能生成并筛选高质量合成数据谁能判断一段数据究竟教会了模型什么以及谁能在数据、训练与应用反馈之间建立闭环。原始互联网内容是一种存量资源真实任务反馈则是持续产生的增量资源。但拥有更多用户并不自动等于拥有更好的模型——只有当用户行为能够转化为合法、准确、有结构的信号才可能成为改进的基础。下一阶段最稀缺的或许不是数据本身而是能够证明哪个答案更好的反馈。六、最大的模型未必是参数最多的模型当模型逐渐学会调用搜索、代码环境、数据库、企业软件乃至其他模型模型能力与系统能力之间的边界开始模糊。一个参数相对较小的模型如果能够找到正确资料、调用可靠工具、保存长期记忆、拆解复杂任务、检查执行结果、在失败后重新规划其在真实任务中的表现可能超过一个参数更大、却只能独立生成文本的模型。因此产业仍会追求规模但规模的对象正在变化。它可能不再只是一个越来越大的神经网络而是一套分工明确的系统基础模型负责理解与生成推理机制负责分配计算检索系统负责获取外部知识工具层负责与数字世界交互专业模型处理特定领域验证机制负责核查结果权限与控制系统决定哪些动作可以真正发生。这与计算产业从追求单核主频转向多核、专用芯片与分布式架构的过程有相似之处。CPU 主频并未停止提高只是不再是衡量系统能力的唯一指标。七、三个阶段而非一个终点认为 Scaling 即将彻底失效可能过于武断。已有研究仍显示模型、数据、算力与性能之间存在相对稳定的关系近年的新工作也在改进尺度定律的预测方法——对于耗资巨大的训练项目而言能否用小规模实验预测大规模结果本身已是关键基础设施。但认为可以永远依靠无限增加参数获得同等幅度的惊喜同样不现实。能源、芯片、数据、资本与工程复杂度都会形成约束而市场最终衡量的不是参数而是问题是否被解决。一个可能的框架是把大力出奇迹看作三个递进阶段第一阶段参数规模化。通过扩大参数、数据与训练算力证明通用能力可以从大规模学习中涌现。第二阶段计算配置化。重新分配预训练、后训练与推理之间的资源借助 MoE、测试时计算、数据优化与模型压缩提高单位计算的产出。第三阶段系统规模化。模型与检索、工具、智能体、验证器、专业模型和真实执行环境结合。竞争不再只看谁训练了最大的模型而看谁能把智能组织成稳定、经济且可控的系统。下一场规模竞赛不只是把一个模型做得更大而是把有限的智能放到最需要它的位置。结语终点不是模型停止变大那么大力出奇迹还能走多久它可能还会持续相当长的时间。只要增加计算仍能提高能力资本与算力就会继续向前沿集中总参数可能继续增长数据中心仍会扩张推理阶段消耗的算力甚至可能超过训练阶段。真正接近尾声的是把大单纯理解为参数数量的那个时代。未来人们会越来越少地追问这个模型有多少参数转而关心它每次实际激活多少参数训练使用了怎样的数据完成一个任务的成本是多少复杂问题能否通过追加推理预算获得更好结果它能否调用正确的工具、在真实环境中稳定交付企业能否控制它最终产生的影响当这些问题成为主流Scaling 就不再是一场单纯的军备竞赛而更接近一门资源配置的学问。参数仍会增长算力仍会增长数据中心仍会扩张。只是决定竞争力的不再是投入了多少大力而是能否把参数、数据、算力、工具与反馈组织成有效能力。大力出奇迹不会消失。会消失的是只要足够大就不必回答效率、可靠性与商业价值的那个时代。AI 的发展不会从规模退回小规模也不会简单地从大模型退回传统软件。它更可能进入一个新阶段模型继续变大但系统比模型更大算力继续增加但计算开始按任务分配能力继续提高而成本、可靠性与可控性拥有同等重要的位置。Scaling 仍是 AI 进步的重要动力。只是下一轮奇迹未必来自更多参数本身而可能来自人们终于学会如何更有效地使用已经拥有的规模。