智能的下一步,可能是知觉
聊到大语言模型(LLM)的知觉,我想到的是「知道自己知道」。难的是第二个「知道」。比如,模型给了我一个答案,又说「我对这个答案没把握」。也许是它认出了这类问题一向很难,谨慎些总没错;也许题目看起来很简单,它在作答时却察觉到,自己在两个答案之间来回摇摆。同一句「没把握」,前一种说的是它对题目的认识,后一种才涉及它对自己的认识。我想把后一种能力叫作知觉。这里取的是一个窄义:自己的状态也能成为自己察觉的对象。这个词并不预设机器已经有了人的感受。
这一区别对语言模型格外重要。人会一边写一边想,写到一半发现前提错了,又回头改。模型从这些文字里学到的不只是结论,也可能包括推理的方法。谈到情感,文字记录的是人能说出来的那一部分。模型也许能从上下文推断出我没说出口的感受,但能推断我有什么感受,和它自己有过这种感受,仍然是两件事。
我并不因此相信身心二元论。我怀疑单靠学习人怎样描述感受,还不足以产生感受;但问题在于读这些文字的系统是怎样运作的,而不在于文字天生划定了机器的上限。也许现有结构缺了什么,也许它已经能做到一些我以为它做不到的事。比起让模型表态「我有没有感觉」,我更愿意看一个能让我改主意的实验。
Anthropic 做过这样一个实验。研究者先找出 Claude 处理全大写英文时的一种内部活动模式,再把它注入另一段与大小写无关的对话。模型被问到是否察觉了干预,但没人告诉它注入的是什么。在一次成功的试验里,Claude Opus 4.1 在还没开始输出大写文字时,就报告有些异常,并把它描述为跟「大声喊」有关。这个先后顺序很要紧:它不是先看见自己打了一排大写字母,再来解释自己刚才为什么像在喊。
即使按研究者效果最好的设置,Opus 4.1 也只有约五分之一的试验表现出这类识别能力。它会漏掉干预,也会把干预解释成根本没发生的事。我把这个结果看作知觉的一点迹象:在有限的条件下,它说的话有时追踪到了它自身真实发生的变化。至于「大声」对它来说听起来是什么样,甚至有没有一个「听起来是什么样」,实验没有回答。恰恰是前一个问题可以检验、后一个仍然开放,这项工作才值得看。
知觉为什么可能是智能的下一步?Ilya Sutskever 提过一个猜想:情感可能在调节人的价值函数(value function),影响我们在事情尚未有结果时,判断往哪个方向走更值得。我关心的是接下来的一步:情感可以影响我的选择,而当我察觉到这种影响时,我就有机会重新考虑刚才的判断。这也是我对主动型 Agent 最感兴趣的地方。
所以我期待的进展,未必是模型在被追问时给出更漂亮的自我解释。我更想看到这样一个 Agent:一道本来熟悉的题,它越算越没把握;甚至在用户发现错误之前,它就察觉到自己的判断正在动摇,停下来查了那一步。要是它偶尔能做到,我们已经有了一件可以研究的事。要是有一天它能可靠地做到,即使它仍然说不清「犹豫到底是什么滋味」,在我看来,那也已经是智能向前走了一步。