为了阻止人类毁灭,人工智能教父选择与全世界为敌

2025-08-07 | 来源: 差评 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

大家都知道，上周差评君去WAIC上看机器人去了，但其实咱也顺便看了看诺奖得主，AI教父辛顿的一个演讲。

话里话外的总结一下就是，老爷子又开始担忧了。

现在AI太厉害了，已经有点控制不住了，各国得赶紧想办法给它管管，可不能养虎为患。

当然很多差友估计也都知道，这也不是老爷子第一次这么说，这两年他一直觉得自己打开了潘多拉魔盒，跟叶文洁似的，点燃了火，却控制不了它。

该说不说，AI这玩意儿到底安不安全，会不会突然长脑子，把咱人类给一波团灭了，其实一直是这行里最前沿的话题之一，谷歌的哈萨比斯前几天也担忧过。

虽然每次大家一说AI要成精了，科学家们都会站出来辟谣，让大家冷静冷静。但是你要较真，未来AI到底会不会有意识，毁灭人类？那他们可就不好说了，科学家里也有信的有不信的。

这里边儿最核心，大家都公认的事其实就一个，AI现在确实太强了。不过咱今天想跟大家唠的是，让这些大佬感到恐惧的，究竟是什么。

中国现代有个哲学家叫赵汀阳，这人说你要讨论AI安全性这块儿，那就得话分两头。一个叫意识的威胁，另一个叫能力的威胁，先别把这两件事搞混。

咱就拿辛顿这次讲话来说，首先第一个前提，他觉得这人脑，跟现在的大语言模型（LLM）其实差不多，都一个类型。

其实这也好理解，深度学习、神经网络啥的说白了，它本来就是带点模仿生物的样子做的嘛。咱编辑部不少有育儿经验的同事也觉得，小孩刚开始学语言啥就跟训练大模型很像很像。

所以你要这么去推理，AI这玩意他很可能也就跟小孩一样，能发展出来自我意识，那它就也有青春期，也会叛逆啊。看过动漫的都知道，中二小孩谈个对象都得毁天灭地的，万一这AI学歪了，那不就完蛋了。

所以像这种，这就叫意识的威胁。

举个例子，22年谷歌有个事儿闹挺大。说是有个谷歌工程师，跟谷歌的LaMDA模型聊天，聊着聊着发现这东西太像人了，什么都懂，还说自己有意识，不想被关掉。于是这哥们儿就吓到了，一封预警信交上去，结果谷歌反手把他给开了。当时就搞得一堆人说，谷歌这老小子有阴谋啊，搞智械危机啊。

人工智能:中国猛烈抨击特朗普和美国的霸权意图

揭秘:中国是如何斥巨资打造人工智能超级大国的

马斯克:日本今年将减少百万人人工智能是唯一希望

然而在工程师眼中，这属实是有点san值太低了。因为LaMDA其实跟别的模型没啥区别，只是规模更大了，语言更流畅，所以刚开始接触到的测试者就被吓晕了。

但在三年后的现在，各家的大模型其实都比LaMDA会说话，甚至像GPT-4o啥的，还专门要测一个情商分。

至于大家觉得像人，当时有认知科学家就分析，说这是因为人类天然有拟人化的偏见，会把有人类特征的东西投射在非人实体上，这种事在视觉上其实更常见，比如这张图。

那有朋友可能就要问了，你咋就能确定模型没有自我意识呢，万一这些模型其实都有意识，只不过装的清纯无害呢？

老实说，要这么问，那这问题其实没法回答。

现代哲学上有一个叫哲学僵尸的概念，啥意思呢，就是假设你身边有个伪人，跟活人一毛一样，他也会说话，也会拉屎，下雨也知道往家走，你跟他讲笑话他也跟着笑，你俩看恐怖片他也抖，但是以上这些所有动作都是它装的，其实它没有自我意识，内心毫无波澜，只是个有这种逢场作戏的条件反射的躯壳。

那么问题来了，你怎么判断你身边这个朋友是活人还是伪人呢？

这个思想实验就是说，对个体而言，你其实没法判断对面的人是不是真有自我意识，那就更不要说AI和机器人了。

所以对于AI会不会产生意识的讨论，说白了辩论双方再怎么讨论也是鸡同鸭讲眼碌碌。

用连线杂志主编，技术预言家凯文凯利的话来说，我们对意识本身几乎一无所知，我们甚至不知道我们自己的意识是什么，所以去讨论它们“有没有”意识其实非常困难。

所以，对意识的恐惧，其实目前更多还是在哲学的层面上，也确实不好讨论。那既然不用讨论，辛顿这些大佬是不是就搁这儿杞人忧天呢？恰恰相反。

这咱就得说到另一边儿，能力的威胁。

还是拿辛顿来讲，老头呢这次的第二个观点就说，这大模型啊，他学知识学的太快了，吓银。