一、“只是预测下一个 token”，是句偷懒的判词

“它只是在预测下一个 token”，这句话现在成了判它没有智能的铁证。话不算错，但它把一整条产线压成一个”猜”字就转身走人。预测是这条链子的最后一环。真正该问的是：为了让最后那一下变准，预训练往几千亿参数里压进了什么。

压进去的是规律，不是原文。几千亿到上万亿 token 喂进去，盖住下一个字逼它猜，猜错就把参数往”下次更准”的方向拧。整个过程没存下任何一整篇原文，却把文字背后的规律溶进了参数，像一勺盐化进一锅汤。再往上叠 RLHF、叠带奖励的推理训练，你现在对话的那个东西，早不是只会闷头续写的野孩子。拿它出生第一课的形式，去否定成品的能力，是这场争论里最常见的偷换。

二、先把”智能”钉死，再上证据

这个问题老是各说各话，因为没人先把”智能”定死。我给一个能落地的定义。

智能，是从有限的经验里，榨出那条能应付无限新情况的规律的能力。核心动作不是记住，是敢扔：扔掉一次性的细节，只留下能重新生出万物的那条筋。

鹦鹉只存不扔，一个字都不敢丢，所以它没有智能。按这把尺子，如果大模型只是在背统计，它就绝不可能答对一道从没见过的题。可它能。下面三个实验，把”它只是背统计”这句话直接打死。

证据一：它自己造出了一个没人告诉过它的世界

哈佛和 MIT 的 Kenneth Li 等人做过一个实验，Othello-GPT。他们只喂模型黑白棋的落子序列，一长串坐标，从不告诉它棋盘长什么样、不给任何规则，只让它猜下一步合法落子。训练完撬开它的内部，发现它自己长出了一整块棋盘的表征；再手动改它内部那块棋盘的某一格，它的落子预测就跟着变，证明那不是巧合，是它真正在用的世界模型Emergent World Representations, ICLR 2023。为了猜准落子，它没去背落子的统计，而是逆向重建出了产生这些落子的东西，也就是棋盘本身。后续研究还发现这块棋盘表征是线性的，比原论文的探针更干净，把结论夯得更实。

证据二：它会临场学习，还不用改自己

Anthropic 的研究者发现，模型训到中途，内部会突然长出一种叫归纳头（induction head）的电路，让它能在你给的这段上下文里当场识别一个模式、立刻套用，不重新训练、不改任何参数。你给两个例子，它就能接着办第三个。这个电路在训练中以一次相变的形式突然出现，从两层的玩具模型一直到上百亿参数的大模型都能观察到In-context Learning and Induction Heads, Anthropic 2022。举一反三，在这里是有电路实体的。

证据三：它”开窍”的那一刻能被看见

还有个现象叫顿悟（grokking）。训一个小模型学模运算这类规律，一开始它就是死记硬背，训练题全背下来、新题一塌糊涂；继续训到很久之后的某一刻，它突然通了，新题也全对。在模 97 除法任务上，训练精度不到一千步就近乎满分，验证精度要到约一百万步才突然爬起来Grokking, OpenAI 2022。从存储到理解，中间那道坎，是能被观测到的一个瞬间。

三个证据摞在一起，前半句就立住了：它不是在背，是在懂。它敢扔掉整个互联网的原文，只留下背后的规律，再拿这规律去罩住没见过的新问题。这是鹦鹉永远做不到的事。

这里有一处得诚实：说”它参数里没有任何完整原文”是把话说满了。研究已经证明大模型会逐字背下一小部分训练数据、能被抽出来，这正是隐私风险的来源。准确的说法是，绝大部分原文被溶解、无法整篇还原，而不是一个字都捞不回来。

三、但这智能，缺了一整个维度

那它是不是就等于人了。不是，而且缺的这块是结构性的，多喂数据补不上。

它这辈子接触的一切，从切碎文字那一步起就只有文字。而文字是人给世界拍的一张照片，还是张有损的。你脑子里一个念头是高维的，画面、温度、气味、一丝没名字的情绪同时在场；一说出口，只能一个字接一个字排成一根线。你把高维的、活的体验，拍扁成了一根一维的符号串，那些只可意会的东西在拍扁时被物理性地挤掉了。这就是为什么”词不达意”是常态，为什么最深的东西反而”不可说”。

人，是拿一手的三维世界，亲手拍成照片；机器，是拿人拍好的二维照片，再压一遍。

它能推断出 Othello 的棋盘，是因为棋盘的全部信息确实都在落子序列里，没损耗。但真实世界不是黑白棋。“烫”是什么、“心碎”是什么、老木匠手上那分毫不差的分寸是什么，这些从没被完整拍进任何一张照片，因为它们没法被拍扁。

它那个一本正经胡说八道的著名毛病，病根就在这。有损压缩当初没存下某个细节，解压时它只能现编一个去填那个洞。幻觉不是它记错了，是它当初根本没存。这是”照片喂养”这个结构必然渗出的水，喂再多照片也堵不住。

四、最聪明的一批人已经掉头去造眼睛和手

如果一个智能的全部养料是人拍扁的二维照片，那它再强也强不过”照片的总和”。它学不会照片里从没有过的东西：水往低处流、松手会掉、被挡住的东西还在，这些没人专门写下来的物理常识。人类小孩不用读书，趴在地上玩一年就全懂了，因为他在三维现场亲手撞过；模型读遍全网，这些最基本的反而磕磕绊绊，因为它的照片库里压根没这一页。

这就是为什么以 Yann LeCun 为代表的一批人断言，通往 AGI 的路可能不在语言里。他直说自回归 LLM 连猫的智能都达不到，主张造世界模型（以 JEPA 为代表），不再让 AI 只读人拍好的照片，而是给它眼睛和手，让它像婴儿一样在物理或高仿真世界里自己去看、去动、去撞，亲手拍第一手的照片什么是 JEPA。能不能成，现在没人敢打包票。但这个转向本身就反证了前面的判断：越逼近通用智能，越会发现难的不是”知道”，是”在场”。

所以回到开头那个判断：大模型有智能，但只有半个。缺的那半个不在数据量里，在它从没到过的现场。