大家好我是老札,MIT近日发布的一项实验,可能彻底颠覆所有人对AI和思维的固有认知 —— 我们或许从一开始就搞错了核心前提: 语言根本不等于思维。
实验找来两名完全不会说话的受试者,按常理人们会认为他们的逻辑能力会偏弱,但结果却出人意料,他们完成的几套逻辑测试,成绩和正常人几乎没有差别。
为了确保结果准确,研究团队还对健康人进行了核磁共振扫描,结果更加炸裂,无论进行归纳还是演绎思考,受试者负责语言的脑区几乎没有激活。
虽然这在脑科学领域不算新鲜,但放到当下的AI圈,却像是一颗定时炸弹,这几年我们默认的前提是,AI会说话就等于拥有智能,但现在看来语言和思维或许根本就是两回事。
顺着这个思路,有三个判断,一个比一个让人头皮发麻,先来聊第一个判断,关于思维链,现在的AI推理通常会一步步写出过程,看起来像是真的在思考,但我越来越怀疑,它们写出来的根本不是思考过程,而是翻译。
就像小时候被老师提问3×7等于多少,你张口就能说出答案,根本不需要额外思考 —— 你花的时间其实是把脑中瞬间冒出的答案,翻译成他人能听懂的语言。
AI一步步书写的推理过程,或许也是如此,要么是早就见过题目,只是把训练过的结果转化为人类能看懂的格式,要么只是在翻译脑中的思考结果,而非真正思考, AI的推理不过是翻译而非思考。
第二个判断语言是表达智能最笨的方式,语言被发明出来本就是为了沟通,天生具有线性特征,说一句是一句,但真正的思考,是百亿神经元同时放电的立体并行过程,没有先后顺序。
因此语言并非思维本身,更像是思维被打包压缩后的输出包,第三个判断,大语言模型的方向并没有错,不少人看完论文会认为,既然语言不是思维,那大语言模型的方向就完全错了。
但恰恰相反,我们扒开GPT的内部结构就会发现,真正负责运算的并非语言,当你输入的文字进入模型,第一件事会被拆成数千维的数字向量,真正运算的是注意力机制、前馈网络等,都是高维空间的数学计算。
等运算完成,最后一步才会把数字翻译成人类能看懂的文字,最近Adopric的新论文也提到,像Claude这类模型在思考时,有一个名为G空间的区域,根本不会向外输出文字 —— 里面存储的其实是决定思考过程的字符,而非最终输出的文本。
大语言模型真正的运算不在语言,这几年我们都默认大语言模型等于人工智能,但未来真正理解世界的,大概率会是另一套系统,比如现在的世界模型,对物理世界的理解就远超视频模型。
语言模型更像是这套系统的 “嘴巴”,只负责把思考结果传递给人类。如何让AI用更高效的方式在模型内部完成思考,或许就是未来AI爆发的下一个突破口。