AI對人類的3大威脅! 赫拉利對話李開復

2024-12-23 | 來源: 中時新聞網 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

這有點一廂情願，是極其可怕的。

另一個可怕的事情是，作為一名歷史學家，我認為新技術的巨大危險不在於最終結果，而在於實現它的過程。

因為當一種強大的新技術出現時，沒有人知道如何將其融入社會和政治，也不知道如何明智地使用它。人們會進行實驗，而有些實驗可能會非常非常糟糕。

我去了硅谷，和那裡的人談論人工智慧。他們告訴我：「看，當工業革命開始，人們發明了蒸汽機、火車和電報時，許多人擔心這將造成巨大損害。但你看，它最終創造了一個更好的世界。」

21世紀初，人們的生活比19世紀初好得多，這是事實。如果我們只看起點和終點，會看到一條直線上升。但在現實中，在歷史上，這並不是一條直線，它就像過山車一樣充滿了可怕的災難。

19世紀，當第一批國家進行工業化時，他們認為建立工業社會的唯一途徑是建立帝國，他們認為要建立工業社會就需要控制原材料和市場，所以必須要有一個帝國。

每一個工業國家，從小國比利時到日本(专题)再到俄羅斯，都去建立帝國，給全世界數億人帶來了可怕的後果。

後來，人們又有了另一種想法，認為建立工業社會的唯一途徑是建立極權主義政權，如納粹德國。

因為這個論點是合乎邏輯的。他們認為工業的爆炸性力量，如此巨大的創造性和破壞性力量，只能由一個控制生活各個方面的極權主義政權來管理。這導致了納粹德國的恐怖，導致了世界大戰。

現在回過頭來看，我們知道這是一個錯誤，有更好方法來建立工業社會。但實際的歷史進程更像是過山車，而不是一條直線。

現在面對人工智慧，我們不知道如何建立一個人工智慧社會，我們沒有歷史模型可以參考，即便我們最終能找到方法讓人工智慧造福人類。

我擔心的是，人們在這一過程中會不斷嘗試，或許是建立帝國，或許是建立新的極權主義政權。即使最終找到了解決方桉，這一過程中可能有數億人會遭受極大的苦難。

相信嗎?李開復:中國大模型與美國僅差6個月

李開復最新預測中國大模型終局(圖

李開復:AI時代會讓每個App都比人類更聰明

三、AI對人類的威脅有3個，其中2個迫在眉睫

李開復：是的，回到人工智慧的危險上，我想知道從短期和長期來看，您最擔心的是以下哪些問題？

一是使用人工智慧對其他人做可怕的事情；二是人工智慧並非有意為之，但由於其獎勵函數設計不當而造成傷害，它無意中傷害了人們；三是人工智慧本身就變成了危險，並且有做壞事的慾望，就像科幻電影一樣。

赫拉利：第三種是最不令人擔憂的，前兩個問題非常嚴重，它們已經是當前大家都在擔憂的，而隨著人工智慧變得更加強大，這將是一個越來越大的威脅。

最常見的是，如果惡意行為者使用人工智慧做壞事怎麼辦？這很明顯，如果恐怖分子利用人工智慧制造新的大流行病，這顯然是非常危險的。

因此，在公共演講中，我更強調人工智慧的第二個危害。不是因為它邪惡或想要接管世界，而是因為它是一種外來的智慧，非常難以控制，可能會產生許多我們沒有預料到的不良後果。

我們已經有了一個社交媒體的例子，即，社交媒體平台由算法控制。公司給了算法一個特定的目標，即提高用戶參與度、增加流量，讓人們花更多時間在平台上。

這聽起來像是個好目標，這對公司有好處，甚至對人們也有好處。但實際情況是，負責社交媒體的算法決定了你在TikTok上看到的下一個影音將是什麼。

算法發現了一種破解人類思維的方法，即如果目標僅僅是吸引人們的注意力，最簡單的方法就是按下大腦中的仇恨按鈕、憤怒按鈕或恐懼按鈕。從進化的角度來看，這些事情會立即抓住人們的注意力，但這對心理健康和社會健康都是毀滅性的。

算法本身並不邪惡，它們沒有試圖傷害人們，但這帶來的結果對人類社會非常不利，而且這種情況可能會更大規模地發生。

想想人類是如何發展我們的目標的，我們從哪裡獲得生活中的目標？有時目標是從上至下的，比如有人給你一個目標。你在一家公司工作，CEO告訴你，這是你的目標，但大多數時候，這些目標是從下至上形成的。