人工智能危险来自于输出的不确定

2017-09-03 | 来源: 澎湃新闻 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

　　人工智能，从上世纪50年代到现在起起伏伏。我最早不喜欢神经网络的原因是在于它的不确定性，即最后输出的结果是不确定的，今天深度学习卷积神经网络的不确定性依然存在。当时从哲学意义上来讲它是一种革新，所以大家很喜欢，到2005年又开始兴起，起因是说它好像又非常好，把结果推广到一些人类的竞赛上。其实在美国机器学习学术界依然是两派，一部分还是看不起深度学习，今天宣传深度学习更多是工业背景。很多领域都开始尝试深度学习，包括我们实验室也做了3-4年，因为所有观点和意见都要和深度学习方法对比，调网络调一个月，很多时候是要靠调试员的经验，因为有不确定性。

　　说人工智能是洪水猛兽，我更多的是从安全性角度来讲。首先它的推动主体是企业，既然它具有不确定性，而且又是企业和资本来推动，我认为这对公众安全存在问题，不透明，存在黑箱操作的空间。第二，它的技术本身，包括学界对深度学习排斥的一点在于不可解释性，由于它本身来自于神经网络，很多时候是靠穷尽局部的采样特性和不明确的非线性，丧失了理论的简洁和优美，如果科学的本意是告诉我们这个世界可以认知。相对我们原来竭尽心力，基于数学或者是几何的原理解释，理解明确的原因，最近我们两三年一直在做的动机，现在从事的一些课题，就是希望确实能确认深度学习的可解释性，同时尝试从传统的技术来演化深度机制，二者寻求共同性，单纯从神经计算来似是而非的解释，其实是不负责任的，知识应该是可追朔的，否则这种经验是不可靠的，工具和方法必须要有原理来支撑！以前我们了解的传统技术，在控制上都是有因果性来推动，我们希望能发展非常非常简洁的算法。今天深度学习的算法不具有广泛的一致性，从应用上，一个具有个性的深度学习算法，需要从小数据移植到大数据上去，也需要一套调试规则来阐述。

画不出亚裔男白人女 Meta人工智能

苹果与百度就其设备人工智能合作举行了初步会谈

联合国通过美国主导决议各国合作建设人工智能系统

　　今天人工智能的深度学习，最大的推动力不在于算法，而是在于数据。其实现在这些大公司开源算法架构，只是为了占领人工智能的生态，这是商业策略。也就是说数据才是最后关键的因素。一个最后的结果，它的不确定性和不可操作性来源于数据，即使同一个数据不同的人操作也不一样，这就带来很大的问题：公共安全性，把这运用到生命医疗，现在都认为是最重要的应用，但这方面在美国就很谨慎。我们国家也在推动这方面，也引起关注，各种各样的数据被共享、被采纳。首先，它是把双刃剑，这东西带来的危害我觉得会更大。想想看，迄今我们人类一切技术的发展，都是以超越我们人自身的限制作为推动的。那这个大数据共享深度学习会走到哪里去，所有的机器都会联网，成为单方面庞大的力量，这个力量会决策我们每个人的命运。从伦理讲，我不知道这将来会是什么样一种方式来决定我们个人的命运，因为我们原来所形成的知识是个人可认知和可掌握的，是科学性的，是自由且公平的，这是做研究的最大动力。

　　今天说人脸识别在什么数据集下到了99%，不停刷性能，学术思想变成了各种排列组合的途径，这其实没有任何意义，学术的意义在哪里？首先，我们要认识这个世界，我们想让自身更自由一些，如果只是为了得到最后的某个结果，其实长远看没有什么太大价值。其次，要真实认识人工智能背后的基理所在，如果这个方式不解决，一旦垄断在一些大公司手里，现在跨国资本联合，实际上来讲是对我们个人的命运可能会很难。真实原因不在于机器，而是人性其实是不可靠的！