人工智能危險來自於輸出的不確定

2017-09-03 | 來源: 澎湃新聞 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

　　人工智能，從上世紀50年代到現在起起伏伏。我最早不喜歡神經網絡的原因是在於它的不確定性，即最後輸出的結果是不確定的，今天深度學習卷積神經網絡的不確定性依然存在。當時從哲學意義上來講它是一種革新，所以大家很喜歡，到2005年又開始興起，起因是說它好像又非常好，把結果推廣到一些人類的競賽上。其實在美國機器學習學術界依然是兩派，一部分還是看不起深度學習，今天宣傳深度學習更多是工業背景。很多領域都開始嘗試深度學習，包括我們實驗室也做了3-4年，因為所有觀點和意見都要和深度學習方法對比，調網絡調一個月，很多時候是要靠調試員的經驗，因為有不確定性。

　　說人工智能是洪水猛獸，我更多的是從安全性角度來講。首先它的推動主體是企業，既然它具有不確定性，而且又是企業和資本來推動，我認為這對公眾安全存在問題，不透明，存在黑箱操作的空間。第二，它的技術本身，包括學界對深度學習排斥的一點在於不可解釋性，由於它本身來自於神經網絡，很多時候是靠窮盡局部的采樣特性和不明確的非線性，喪失了理論的簡潔和優美，如果科學的本意是告訴我們這個世界可以認知。相對我們原來竭盡心力，基於數學或者是幾何的原理解釋，理解明確的原因，最近我們兩三年一直在做的動機，現在從事的一些課題，就是希望確實能確認深度學習的可解釋性，同時嘗試從傳統的技術來演化深度機制，二者尋求共同性，單純從神經計算來似是而非的解釋，其實是不負責任的，知識應該是可追朔的，否則這種經驗是不可靠的，工具和方法必須要有原理來支撐！以前我們了解的傳統技術，在控制上都是有因果性來推動，我們希望能發展非常非常簡潔的算法。今天深度學習的算法不具有廣泛的一致性，從應用上，一個具有個性的深度學習算法，需要從小數據移植到大數據上去，也需要一套調試規則來闡述。

聯合國通過美國主導決議各國合作建設人工智能系統

畫不出亞裔男白人女 Meta人工智能

中國利用人工智能助力"大外宣"

　　今天人工智能的深度學習，最大的推動力不在於算法，而是在於數據。其實現在這些大公司開源算法架構，只是為了占領人工智能的生態，這是商業策略。也就是說數據才是最後關鍵的因素。一個最後的結果，它的不確定性和不可操作性來源於數據，即使同一個數據不同的人操作也不一樣，這就帶來很大的問題：公共安全性，把這運用到生命醫療，現在都認為是最重要的應用，但這方面在美國就很謹慎。我們國家也在推動這方面，也引起關注，各種各樣的數據被共享、被采納。首先，它是把雙刃劍，這東西帶來的危害我覺得會更大。想想看，迄今我們人類一切技術的發展，都是以超越我們人自身的限制作為推動的。那這個大數據共享深度學習會走到哪裡去，所有的機器都會聯網，成為單方面龐大的力量，這個力量會決策我們每個人的命運。從倫理講，我不知道這將來會是什麼樣一種方式來決定我們個人的命運，因為我們原來所形成的知識是個人可認知和可掌握的，是科學性的，是自由且公平的，這是做研究的最大動力。

　　今天說人臉識別在什麼數據集下到了99%，不停刷性能，學術思想變成了各種排列組合的途徑，這其實沒有任何意義，學術的意義在哪裡？首先，我們要認識這個世界，我們想讓自身更自由一些，如果只是為了得到最後的某個結果，其實長遠看沒有什麼太大價值。其次，要真實認識人工智能背後的基理所在，如果這個方式不解決，一旦壟斷在一些大公司手裡，現在跨國資本聯合，實際上來講是對我們個人的命運可能會很難。真實原因不在於機器，而是人性其實是不可靠的！