Scaling Law 不是物理定律，是「外推幻觉」

我的立场：Scaling Law 本身是真实、有用的观察——过去几年模型性能随参数量、数据量、算力投入按幂律关系提升，这个趋势在已验证的区间里确实成立，OpenAI、DeepMind 等机构的多篇论文都给出过一致的拟合结果。但「在观测区间内拟合得好」和「可以无限外推到观测区间之外」是两件不同的事，前者是统计工作，后者是一个未经证明的假设。行业里最大的认知偏差，就是把「拟合得很准」偷换成了「规律必然成立」。

物理定律和经验拟合的根本区别

物理定律（比如万有引力定律）之所以能被称为「定律」，是因为它背后有可以独立验证的机制解释，且这套机制在任意尺度下都成立，不依赖于「过去观测到的数据点恰好落在这条曲线上」。Scaling Law 完全不是这种东西：它是研究者拿一批不同规模的模型跑出的实际性能数据，画在对数-对数坐标（log-log plot）上，发现这些点大致落在一条直线附近，于是拟合出一条幂律曲线。这条曲线描述的是「过去这批实验里发生了什么」，不是「模型规模和性能之间存在某种必然的因果机制」。没有人能从第一性原理推导出为什么性能提升必须服从这个具体的幂律指数，这个指数本身是拟合出来的经验参数，换一批训练数据、换一种架构，指数就可能变。

「外推幻觉」具体错在哪

外推幻觉的核心问题是：一条曲线在已观测区间内拟合得再好，也不能保证它在区间之外继续成立。这在统计学里是一个基础常识——任何有限的数据点都可以被无数条不同的曲线完美拟合，选择「继续沿同一条幂律曲线走下去」只是众多可能性中最简单、最符合直觉的一种，不是唯一正确的一种。现实中已经出现过 Scaling Law 在某个尺度之后出现拐点、边际收益骤降、甚至某些能力提升停滞的案例——这些都是「外推失效」的直接证据，而不是异常噪声。把一条基于历史数据画出的趋势线，当成对未来的确定性保证，本质上和把过去三年股价涨了就假设明年一定继续涨是同一种逻辑错误，只是套了一层数学公式的外壳，看起来更「科学」。