为了阻止人类毁灭,人工智能教父选择与全世界为敌

2025-08-07 | 来源: 差评 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

拿我们人类比，刘慈欣的小说乡村教师里就写，我们人类是靠声带在空气里传播振动来交换信息的物种，一秒的传输量才几个比特，哪怕你从中专开始学说唱，完事儿你叭叭半天，信息量都赶不上百度网盘下载速度。

而且就算你讲出来，听的人能不能学会还两码事呢。不少信息都是左耳进右耳出，这咱上过学的都懂。

但是这AI它就不一样。首先人家在电脑里，信息速度那首先海了去了，就不说在电线里跑，这次WAIC上连光通信的都有了，这你咋比。

再一个，人家学的也快。不光是人家能力进步快，一秒读完好几本书这种，关键AI这东西哪怕互相学习，它也快。

比方你有一很牛的大模型，你怎么让小模型也学会呢？只需要蒸馏一遍，这小模型就能全掌握，变成大模型的样子。

所以这辛顿就担忧，那要照这么发展下去，人类不就迟早玩成了AI的玩物了？这回演讲中他就说，大家搞这个是养老虎，别看它现在小，以后长大了迟早要吃人。

该说不说，辛顿这话确实有道理，听得有点后背发凉是不。

就拿现在用的最多的聊天AI来说，光这玩意负面新闻就也不少了，有宣传纳粹思想的，有教唆青少年自杀的，有让小孩子加入邪教献祭仪式的。

再比如，《侏罗纪公园》的作者以前写过一篇科幻小说，说是某天人类发明了一个医用机器人，可以自己制造打印材料，制造新的机器人。但有一天出了个bug，机器人开始从环境里掠食有机物来复制，于是就把地球上所有生命（包括你我）都团灭了。

所以哪怕这AI它就算没有意识，但就这个成长速度，未来AI跟硬件互联还能控制机器人，那出点儿什么事，我是想都不敢想。

那看到这，可能有朋友得生气了，听你这么一说，合着发展AI就是个错呗，那大家干脆学波尔布特行了。

然而你瞅瞅外边儿，这AI大趋势夺么火热，就知道那肯定不是所有人都这么想的。比方说马克·安德里森，人就觉得AI就纯粹是一工具，能“给人类带来无限繁荣”的“有史以来最好的东西”，吹上天了这一块。

不过在凯文·凯利（KK）看来，甭管是辛顿还是马克·安德里森，其实都没说到点子上。

上海AI大会李强倡议成立人工智能合作组织

美国探索加强追踪人工智能芯片流向

人工智能将解决孤独问题,但这本身就是个问题

在他十年前出版的《必然》一书中认为，乌托邦和反乌托邦其实都更像是基于对未来盲目，这种盲目或许只是现代社会难以逃避的苦恼，因为技术的发展实在是太快了。

而真正的未来，反而是当下就能看到的、正在“形成”这种进程的产物（protopia）。

所以他倒是觉得，AI更像一种工具，最终发展估计就像电一样，会成为大家生活里的一个基础设施。那家用电还能短路起火灾呢，有本事你别用啊。

照他的意思，它不是来取代人类的，是来增强人类的。AI下棋软件的出现，并没有让国际象棋完蛋。反而是在这些超强软件的帮助下，下棋的人数、比赛的数量、棋手的水平，全都达到了历史最高，棋力碾压古人。

这么想，未来一定是人和AI融合的，就像我们离不开手机一样。

其实说白了，任何大有作为的新发明都会有反对者，而且作为越大，反对声也越大。现在大家对AI的恐慌，研究技术奇点带来会毁灭还是狂欢，这场面倒特像50年前大家讨论互联网。

1994 年,《时代周刊》认为互联网“并非为商业设计,也不能优雅地容忍新用户”，所以永远不会成为主流。。。

1995年2月,《新闻周刊》在标题里更是直接开大，互联网？我呸！(Internet ? Bah!)。这文章还认为在线购物和网络社区有违常识，都是不切实际的幻想，觉得在线数据库不会取代报纸。

你瞅瞅这脸打的。

不过虽然凯文·凯利认为AI的重要性不亚于火、印刷术和工业革命，然而他也说，100年后估计AI会真的有大众理解的那种意识，而且会是与人类完全不同的模式，他称之为异人意识(alien consciousness)。

实际上，甚至在互联网尚未起步的时代，科幻作家和哲学家们就已经开始担忧机械智能毁灭人类了，比如战锤40k里的铁人叛乱。

用哲学家赵汀阳的话说，以前的技术革命，只是理性的技术升级，但人工智能和基因编辑不仅仅是技术革命，而且是存在论水平上的革命，技术的无限进步也许是一场不可信任的赌博。