人民大学高瓴教授为Sora吵起来了(图)

2024-03-27 | 来源: 智东西 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

正方毛佳昕：Hinton为什么对人脑效率的观念发生了变化，因为人脑非常高效，它的最大缺陷是交流能力差、传递信息的效率低。但是计算机传递信息的效率很高。理性是人脑的内在能力，是进化产生的，模型好像没有进化出这个机制。数据也是在帮模型不断改进，所以大模型也是可以有思考能力的。

反方许洪腾：对方辩友的观点恰恰说明了认可需要架构上的调整，架构事实上也是一种先验知识。除了效率和资源的限制，大模型学到的只是统计规律，外推或者说泛化的能力很差。这是统计机器学习里一直存在的困境。

不管是架构的演化，还是人大脑的演化，除了这种连续的、平滑的过程之外，很重要的一点是突变，这种突变不是通过数据来催化，是具有高度的随机性跟偶然性的，能否用纯数据方式去驱动是存疑的。

正方黄文炳：生成就是智能，生成过程可以实现反直觉思考、因果推断。一个人难道不说话就能因果发现吗？肯定得通过说话，说话是数据，做实验也是数据，这些都是纯数据驱动。

反方孙浩：生成即智能是一个谬论，因为生成的结果可以是虚幻的、甚至错误的，不能简单地当做智能。

正方宋睿华：人生成的东西就是对的吗？不对就不是人吗？就不是通用人工智能吗？现在通用人工智能的标准应该是和一个普通人对齐。人也有对错，不是说生成的东西一定要是对的，

反方许洪腾：但是人具有宽泛事物的判断正误的能力，突破直觉性的理解才能实现人的智能。比如每天早上都听到公鸡打鸣后太阳就升起了，我们就认为太阳是公鸡叫出来的，这是一个谬论。

正方宋睿华：Sora从数据里一样能学到太阳升起公鸡才会叫。我们说到Sora一个版本跟另一个版本不一样，人的认知也不一样，但不代表生成结果不一样就是不智能。大模型也有判断能力，Sora能生成比其他算法更流畅的视频，甚至在变换视角时保持三维一致性，一定是具有判断能力。

反方许洪腾：有判断能力不等于纯数据驱动，还是要有一些架构和知识的。

正方林衍凯：架构跟数据不是对立的，纯数据驱动不等于完全没有架构，与数据驱动对立的是符号驱动，是理性主义跟经验主义的对立。

反方陈旭：如果需要花了很差时间、大量数据，以至于整个地球的数据都不足以训练模型，就是不可行的。比如密码学中破译一组密码需要的时间太长，那么就可以认定是没有破译。因此在现实世界一定要加上限定词，我要在多少时间、用多少资源把问题解决掉。

涟水中专造了个"神",就该被大学破格录取吗

这项全球大学排名加国五大学上榜

林毅夫教授,网民喊您兑现"光刻机三年之约"

我认为“纯”数据驱动不能解决通用人工智能问题。数据有一定作用，但是物理驱动或者因果的原理同样发挥着非常重要的作用。架构优化如果增加了一些因果原理、物理原理，可以把数据训练成本降低。

正方李崇轩：Sora算不算纯数据驱动，有没有用到Transformer架构？

反方孙浩：Sora的架构设计本身是有基于知识嵌入的，数据是辅助。但纯数据驱动是不加知识和客观世界理解的，这样设计出来的模型很难实现一个通用人工智能。

正方张骁：如果Transformer架构没有数据，怎么确定模型参数？一个架构就能做成Sora那样吗？人工智能三起两落，两落都是因为没有走纯数据驱动的方式，现在大家能坐在这里讨论，正是因为有了纯数据驱动带来的发展。

人类就是通过观察数据得到一些知识。讨论这个问题，最重要的不是增强AI，而是考虑我们怎么跟AI一起去和谐共生。既然我们处理数据不如计算机，为什么不让计算机用AI去处理？纯数据驱动是实现有温度的AI的一个最终愿景。

结语：大力出奇迹的大模型，还没有显露出边界

经两轮投票表决，两场辩论的结果均为正方获胜。最后学生们还补充了两个问题：

问题1：如今大模型使用起来这么方便，是否还有必要花大量时间在学习数学和编程上？因为大模型可以帮助我们很多。

魏哲巍老师回答说：学习数学和编程这些知识的目的并不是解决那么一两道题，而是要提升自己的“泛化能力”，能够解决其他的问题。目前大模型还没达到那么智能，因此为了自身更好地发展，有必要重视学习这些知识。

问题2：如何看待大模型的幻觉现象？