人民大学高瓴教授为Sora吵起来了(图)

2024-03-27 | 来源: 智东西 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

正方毛佳昕：数据驱动是实现通用人工智能的可行路径。从人工智能发展的历史来看，从感知到语言，都是用数据驱动解决问题。人类也是通过数据来学习的，比如我看很多书、做很多题目，然后参加物理考试，跟现在训练大模型做物理题的数据驱动方式是一样的。

Hinton说人脑是个很高效的系统，人脑用的功率比大模型小得多，但人脑的缺点是里面的神经网络权重没法告诉另一个人，通讯效率很差。

数据驱动的反面是理论驱动，这里的“理论”不是物理定律，而是认知理论。所以数据驱动路线对应的另一条路线是基于AI的理论驱动路径，或是基于人类认知世界的理论来驱动的路径。Hinton之前是这个路径的，但他最近观点发生了改变，认为人脑虽然在计算效率上有优势，但在通讯效率上远比不上数字计算机。

反方沈蔚然：通用人工智能是类似人并且超越人的人工智能。现在很多单个任务都超过人，我们希望能做一个通用人工智能算法或者模型，在大部分任务上都能够超过人。

我不认为学习物理通过看书做题是接收数据，从物理学的角度，数据应该是做实验得到的数据，看书的理论是接受别人前人总结的结果。现有的数据驱动方式无法把数据总结成一些简洁易懂的理论，然后在此基础上做进一步推导。我认为这是要实现通用人工智能目前回避不掉的事情。

尽管多层感知机理论上可以拟合任意函数，但部分数学函数需要无穷的数据才能拟合，却可以有简单的数学表达。

正方林衍凯：对方辩友一直在切换辩题，把“纯数据驱动路线能够不能使实现通用人工智能”切换成“能不能在有限/高效的能源下实现通用人工智能”，这并不是我们的辩题，还有把“通用人工智能”切换成“要达到超过人的治理水平”。

从技术角度来看，大模型无法总结规律，做的更多是记忆组合，现在很多大模型研究中做的是压缩，压缩的基础一开始是记忆，在训练过程中为了最优化函数，就是在寻找能更好拟合数据的规律。这指向数据驱动能像人一样思考演化。

警方在乔治·华盛顿大学抗议营地中逮捕了33人

巴哈马发声明正式承认巴勒斯坦国

17岁时的章子怡撩人心弦吗？大学旧照曝光(图)

真实世界的数据是无限的，不能局限于网上的数据。大模型在压缩的过程中可以自主探索，并从数据中学到物理规律。

反方孙浩：这个问题叫“纯数据驱动路线能不能实现通用人工智能”？它的关键要素是“实现”和“数据驱动”。实现通用人工智能的前提是资源有限的。目前用于训练的数据在许多方面都是缺失的，基于此训练不能达到类人的效果。

世界是极其复杂的，我们能观测到或能获取到的描述世界的数据极其稀疏，甚至可能是缺失的。但是描述世界的方式应该是非常简洁的，这样才是通用的基本特征。例如用微分方程的形式去描述，它就有很强的通用性，同时基于的数据非常少。数据是关键要素，但不应该是唯一的要素。

正方黄文炳：我们并没有强调说这个数据能不能获取，而是说在足够数据的条件之上，能不能实现通用人工智能。有两个观点我不敢苟同。一是谈到人工智能的定义，我们认为通用人工智能指的是机器所能掌握的处理大多数任务的一般通用能力。通用人工智能的英文是AGI，其中G是General，代表的是一般范围，不是Universal（万有）能力。纯数据驱动能不能实现通用人工智能？它并不一定包括能解决科学领域的方程、实验的结果，但一定能实现大多数人在日常生活中所掌握的通用智能的能力。

我们承认数据驱动不一定能实现所有的智能，包括物理的人工智能，但这与今天的辩题不矛盾。同样在物理场景中有很多严格的假设，在这些场景下纯数据能不能实现通用人工智能，那种智能还不一定是人工智能，我认为是不行的。

反方徐君：假如有两个参数不同的Sora，到底哪个是对的？可能一个对，也可能两个都不对。目前来看，Sora在认识物理世界的时候是有很大偏差的，存在不稳定性，一旦版本更新，意味着已学到的物理规律就需要被刷新一遍，这从经验上也不可行。

人不仅仅有认识世界数据的经验，还有理性的处理，也就是说对这个世界数据的处理能力。从这个角度来看，Sora不仅要接收来自世界不同经验的数据，同时它需要具备像人一样甚至超过人的理性思维去处理数据，两者缺一不可。

从数据的角度来看，Sora目前仅介绍了文本、视频和图像，还有很多领域的数据没接触到。从模型的角度来看，它基于扩散模型和Transformer的简单结构，不可能产生理性的分析和想象的能力，所以从模型处理能力上也锁死了。不管从经验的角度来看，还是从理性分析的角度来看，我觉得AGI都被圈住了。