当语言模型的参数规模从十亿级扩展到千亿级时,一些任务上的表现会出现从几乎完全失败到突然成功的跳变,这种现象被称为涌现能力。它一度被视作大模型最重要的特性之一,也被用来论证继续堆参数的合理性。然而随着研究的深入,涌现能力是否真实存在开始受到质疑:有学者认为这只是评测指标不连续造成的错觉,换成线性指标后,能力增长其实是平滑渐进的。这场争论的核心,就在于规模阈值与任务复杂度之间的真实关系。本文将系统梳理两派观点,分析阈值背后的机制,并给出自己的判断。

什么是涌现能力,质疑声从何而来
涌现能力最早由斯坦福大学的研究者在2022年的论文中系统提出。他们观察到,当模型规模较小时,在多步算术、指令遵循、多任务语言理解等基准上的表现长期停留在随机水平附近,曲线几乎是平的;一旦参数量跨过某个规模阈值,性能曲线陡然上升,仿佛模型突然学会了解决问题。这种非线性跳变无法通过小模型的性能趋势外推预测,这正是涌现的定义所在。
质疑出现在2023年,谷歌研究院和斯坦福的研究者发表了一篇题为《Emergent Abilities of Large Language Models: An Illusion?》的论文。他们的核心论点很直接:涌现可能是测量方式的产物。如果采用非线性或不连续的指标,例如字符串精确匹配,模型只要还差一个字符就算全错,那么能力平滑增长的过程就会被指标硬生生压成一条水平线,直到某个点连续的能力增长跨越了全对或全错的边界,指标上就表现为突然跃迁。
这一点在数学上很好理解。假设做一道十位数的算术题,模型的真实能力是每一位的正确率从10%平滑提升到60%。用完全准确率衡量,前九位都对且最后一位也对的概率始终很低,指标上看不出任何进步;而当每一位的正确率提升到足够高时,整体正确率会突然攀升。跃迁不是能力突变,而是指标的非线性放大。换成交错数字准确率这种线性指标后,同一组模型的曲线就变成了平滑上升,研究者据此认为涌现是错觉。
规模阈值从哪里来:任务复杂度的分解视角
即便接受了测量偏差的解释,一个更深的问题仍然存在:为什么能力增长的曲线在不同任务上差异如此之大?这就要引入任务复杂度这个变量。任何复杂任务都可以分解为多个子能力的组合,比如多步推理需要单步推理正确、上下文保持正确、格式输出正确等多个环节串联。串联型任务的整体成功率是各环节成功率的乘积,这天然形成一个乘法瓶颈。
用公式表达更清晰。设任务由k个串联子任务构成,每个子任务的成功率为p,则整体成功率为p的k次方。当p从0.3提升到0.7时,若k等于10,整体成功率会从约0.000006提升到约0.028,再从0.7提升到0.9时又跃升到约0.35。可以看出,k越大,曲线的S形越陡峭,视觉上的跳变越剧烈。这就解释了为什么算术、多步推理这类可分解为长链条的任务,其涌现现象最明显;而情感分类这类本质上单一维度的任务,几乎看不到阈值效应。
由此可以得出一个重要结论:规模阈值的位置和陡峭程度,由任务复杂度决定。复杂度越高的任务,其子能力链条越长,需要的单环节成功率就越高,对应需要的模型规模也越大。这意味着所谓的阈值不是一个全局常量,而是每个任务特有的属性。同一个模型在不同任务上的表现差异,很大程度上就是复杂度差异的投影。这一视角也说明,涌现的跳变与平滑增长并不矛盾:能力在底层是平滑增长的,但乘法组合使其在任务层面呈现出阈值行为。
思维链与提示工程如何改变阈值行为
任务复杂度不是任务固有的属性,它会随着解题策略改变。思维链提示就是最典型的例子。一道需要五步推理的题目,如果模型被迫在一次输出中完成,五个环节是串联的,整体成功率受乘法瓶颈制约。而思维链将中间步骤显式写出来,等于把一次性的隐式推理拆解为多次单步推理,每一步都可以利用上文生成的中间结果,错误不会在隐式空间里累积爆炸。
实验证据支持这一分析。研究者发现,在中小规模模型上使用思维链往往没有效果甚至有害,但跨过某个规模后收益突然显现,这本身也是一种涌现。用复杂度视角看,小模型的单步能力不足,显式拆解并不能弥补单步成功率低的问题;而足够大的模型单步成功率已过临界点,拆解带来的乘法瓶颈缓解就开始发挥作用。同样的道理也适用于少样本示例、指令微调等手段,它们本质上都是在降低任务的有效复杂度,或者说在降低任务对模型规模的依赖门槛。
这也解释了为什么不同论文报告的阈值规模经常互相矛盾。同一个数学基准,用直接作答方式评测和用思维链方式评测,得到的临界参数量可能相差一个数量级。评测方式、提示词设计、解码温度都会影响有效复杂度,进而影响观测到的阈值位置。因此,脱离具体评测协议去争论某能力在多少参数涌现,意义有限。
如何正确看待涌现:争论的共识与工程启示
综合两派观点,目前较为稳妥的结论是:底层能力的增长是平滑连续的,但任务层面的表现确实可能呈现阈值式的跳变,前者是真实过程,后者是真实观测,两者不矛盾。说涌现是错觉,指的是它并非能力的突变,而非否认现象本身;说涌现真实存在,指的是在高复杂度任务上的跳变确实无法从小模型外推预测。两个说法可以同时成立。
对工程实践的启示有三条。第一,评测大模型时应优先使用线性连续指标,例如逐token准确率、部分匹配得分,避免精确匹配带来的假性跳变,否则很容易误判能力边界,在错误的规模上停止投入。第二,如果想在不增加参数的前提下解锁某项能力,优先思考能否降低任务的有效复杂度:拆解步骤、提供中间反馈、引入工具调用,这些手段往往比盲目堆参数更经济。第三,在规划模型规模时,要针对目标任务的复杂度做估算,长链条推理类任务对规模的敏感度远高于分类类任务,预算分配应据此倾斜。
最后值得强调的是,规模阈值与任务复杂度的关系仍在被持续研究,测度论视角、有效复杂度建模等方法都在不断完善。但无论结论如何演进,理解乘法瓶颈这一基本机制,就已经能解释大部分观测到的涌现现象,也能帮助我们在模型训练与应用中做出更理性的判断。