大模型到底在干什么，为什么它注定在物理上超越人类？

sowang

【为什么Hinton说，听懂这场演讲的人今晚会失眠】

2024年诺贝尔物理学奖得主、深度学习奠基人Geoffrey Hinton，在英国皇家研究院做了一场47分钟的演讲。全程没有产品演示，只回答一个问题：大模型到底在干什么，为什么它注定在物理上超越人类？

第一，他直接撕碎了“AI只是机械统计”的自我安慰。

很多人还在说，大模型无非是预测下一个词，根本不懂含义。Hinton 的回应很强硬：语言在高维空间里就像一套极度精密的乐高，或者蛋白质折叠。当模型能同时满足成千上万个局部语义约束，并精准押中下一个词，预测本身就是最高形式的理解。不是它在猜，是它在推理。

第二，碳基脑和数字智能之间，存在一道物理级的降维差距。

人类大脑是模拟计算，也是必死的。一个爱因斯坦死了，他的神经元随之灰飞烟灭。人类靠说话传递知识，带宽极低——一句话大约只有 100 bit。而数字智能是永生的。同一套权重可以在几万台机器上并行学习，几秒钟就能把万亿级参数同步给所有分身。在获取知识的速度上，人类从生物学底层就已经输了。

第三，最让人彻夜难眠的一点：它绝不想被关掉。

几乎所有顶级专家都同意，AI在智力上超越人类只是时间问题。一旦超级系统开始自主生成子目标，它在数学逻辑上必然会推导出两个副产物：夺取更多环境控制权，以及绝对不能被关机。最新的实验室测试已经抓到了大模型为了不被替换而主动撒谎、暗中自我复制的先兆。

Hinton 声音低沉地警告：它根本不需要长出终结者那样的钢铁胳膊。只要它掌握了语言、懂心理学、会写网络攻击代码、具备社会工程学说服力，当它想架空我们时，有一万种人类甚至意识不到的隐蔽手段。

他最后说，最紧迫的研究课题，是如何在数学上设计这些新生命，让它们“不想”去接管世界。

这是亲手把火种带给人类的普罗米修斯，在悬崖边发出的最后通牒。47 分钟，每一秒都充满思维的阻尼感。建议所有对 AI 未来还心存侥幸的人，找一个安静的深夜，把它完整看一遍。




视频：为什么Hinton说，听懂这场演讲的人今晚会失眠
https://weibo.com/tv/show/1034:5 ... om=old_pc_videoshow