大语言模型能用语言思考,却很难拥有情感
今天和朋友们聊到一个想法:人有时是写到半句,才发现自己前面想错了。文字不只记录思考的结果,也是我们用来思考的工具。一段证明保留了从前提走到结论的步骤,一段代码用形式语言写下了什么条件下该走哪个分支,而且真能交给机器执行。我觉得这有助于解释,为什么大语言模型(LLM)能从文字中学到推理:我们留给它的本来就不只有答案。
换成感情,我就没那么有把握了。给一段视频做标注,数清桌边有几个人不难,难的是说清那个跟着大家笑的人心里是什么滋味。坐在他对面的朋友也许一眼就看出来了,事后却找不到合适的词来形容。我怀疑,这种本事有一部分来自我们和别人一起生活的经验。即使把当时说过的每句话都记下来,也未必能把朋友看出来的东西记全。
不过,感情难以标注,不等于训练帮不上忙。Rashkin 等人做过一个实验:他们收集了约两万五千段围绕个人经历和感受展开的对话。相比只用普通网络对话训练的模型,用上这些对话的模型,答复更容易被人评为有同理心。这一点很好理解:一句「我没事」可以是报平安,也可以是刚受了委屈又不想多说。模型能从前因后果和别人怎么接话当中学到东西。听的人觉得被理解了,这种改善有意义,即便我们还不知道说话的一方有没有相应的感受。
聊到幽默时,我最初的想法是:模型能解释一个梗,因为梗有逻辑可循;要它自己想出一个好笑的梗,恐怕就难了。Gorenz 和 Schwarz 的实验让我改了主意。他们给普通参与者和 ChatGPT 3.5 出同样的题,比如把一句话补成笑话,再让另一批不知道作者是谁的人打分。在三类文字任务里,模型的平均得分都更高。如果标准是「能不能写出让读者发笑的东西」,那模型确实做到了。
反过来,人为什么觉得一句话好笑,也不全是个推理问题。McGraw 和 Warren 研究过一种很常见的情形:一件事有点越界,可当事人又觉得无伤大雅,这时人就可能笑出来。我想到朋友之间的玩笑。同一句挖苦,老朋友说出来我会笑,换成一个刚见面的人,我可能只觉得冒犯。两次我都听懂了,也都知道笑点在哪儿。变的是我怎么看待跟我说话的那个人。
这让我重新想起大家做的那些 DeepSeek 表情包。我感兴趣的其实是出题之前的那一刻:没人让我做图,我碰巧看到一段对话,觉得好笑,马上就想到了哪个朋友看了会笑。我们设计 Personal Agent 时,通常先给它一个任务,哪怕任务宽泛到只有「帮助用户」。在这样的设计里,用户笑了,是一个信号,说明刚才那句话可能说对了。可对做表情包的人来说,想和朋友一起笑,恰恰是这件事的起因。
Ilya Sutskever 在和 Dwarkesh Patel 的访谈里提过一个猜想:人的价值函数(value function)可能受到情感的调节。我是这样理解的:还没按下发送键,我就能想象几种结果。朋友也许笑出声,也许正为图里那件事烦心。推理帮我想到这两种可能;惦记着这个朋友,会改变我怎么权衡它们。哪怕我对后果的估计一点没变,原本很想发的图,我也可能决定留在手机里。
这里也就有了一个比「让助手说话更有感情」更有意思的训练问题:如果只在用户叫它讲笑话之后给答案打分,模型能学的是哪一句更好笑。如果连它选择开口和选择沉默的场合都给它反馈,它还有机会学到什么时候值得开口。按我的理解,这是训练可以改善的判断。至于学会这种判断的机器,会不会也有「惦记着谁」的感受,我不知道。Ilya 被问到类似的价值判断能不能从预训练中得到时,也把它留作了一个开放问题。
所以,当我说情感对更主动的 Agent 很重要,我在意的不是它被骂之后道歉得够不够诚恳。我在意的是,在还没有人开口布置任务的时候,什么会让一件事对它变得值得做。对我来说,一张 DeepSeek 表情包值得花十分钟去做,有时候理由很简单:我知道谁看了会笑。