AI對人類的3大威脅! 赫拉利對話李開復

2024-12-23 | 來源: 中時新聞網 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

但是，除了人與人之間的互動之外，在所有基於信息的方面上，我們都無法勝過人工智慧。

另一個我經常提到的職業，雖然對人工智慧來說更加困難，但最終我們也會聊到，就是醫療行業。

因為，人工智慧醫生將比普通醫生更優秀。醫生將把人工智慧作為一個可能的參考，然後，隨著人工智慧不斷進步，醫生會失去自信，更加信任人工智慧，最終變成一個「橡皮圖章」。

盡管我們將責任和醫療失誤的後果歸咎於醫生，但當醫生看到人工智慧進步的速度時，最終不可避免地會感到人類在這方面遠不如人工智慧准確。

那時，醫生將只是蓋章擔保決策逐步轉向由人工智慧做出決策。盡管我們最初出於滑坡效應的考慮所設定的原則是，所有決策必須由醫生做出，但人工智慧進步得更快，相較之下，人們可能會感到自己的智慧黯然失色。

赫拉利：我們已經在軍事領域看到了這種滑坡效應。

我一直在密切關注人工智慧的使用，在科幻小說和好萊塢電影中，我們習慣性地預期戰爭中的人工智慧會以殺手機器人的形象出現，成為實際開火和戰斗的士兵。但這種情況尚未發生，相反，人工智慧正在從士兵的上級環節決策過程中進入軍事領域——即關於目標選擇的關鍵決策，決定轟炸和射擊的目標。

因為選擇軍事目標需要非常迅速地分析大量信息，所以人工智慧將目標選取過程加速了幾個量級。

但這當然也引發了一個非常大的倫理問題，如果軍方使用的人工智慧告訴你某棟建築是恐怖組織的總部或者是敵方的指揮部，你是直接相信人工智慧並下令轟炸，還是先由人類來驗證這一信息的准確性？

也許人工智慧會出錯，也許那只是個平民住宅；也許那裡確實有敵軍總部，但同時也有平民，他們可能會受到傷害。那麼，你該如何選擇？

在這場戰爭中，人工智慧主要是在一方使用。但在未來的戰爭中，可能就在一兩年內，一旦雙方都擁有人工智慧，做出這些倫理決策的空間將會縮小，因為決策迫在眉睫。

如果雙方都由人工智慧選擇目標，其中一方直接相信人工智慧並立即采取行動，另一方卻說：「不，不，不，我們需要人類來驗證。」與人工智慧相比，人類非常緩慢。也許在人類花費幾天甚至幾小時驗證人工智慧決策正確性的時候，目標已經轉移，或者對方已經先發制人。

中國AI硬件已超美國?李開復:全球幾乎無人能敵

相信嗎?李開復:中國大模型與美國僅差6個月

對話李開復:當AI比人聰明,我們還剩什麼?

所以，軍隊將面臨越來越大的壓力，只是簡單地執行人工智慧的指令。

李開復：我認為在許多其他問題中，讓人類參與以確保安全的想法通常不具擴展性。這是同樣的問題，在金融市場上，人類的參與會使流程效率降低，可能導致你賺不到那麼多錢甚至虧損，在軍事上也是如此。

有人會說，讓人工智慧做決定可能是錯誤的。但如果我輸掉戰爭或者破產那更糟，所以我將移除這個環節中的人類。所以，我認為我們需要另外的基本安全檢查和防護措施。

有時候，技術本身就是防護措施，最好的防護措施是另一種技術。

就像當電力被使用時，它會電擊人，然後人們發明了斷路器；當互聯網產生病毒時，電腦中了病毒，就出現了殺毒軟體。

這一次要困難得多，但我認為，如果我們這些技術專家鼓勵更多的人去研究防護性技術解決方桉，而不僅僅是構建更智慧的人工智慧，那麼一個有效的解決方桉或許就會出現。

當然，另一種方法是監管。但我認為，很難對一項尚不為人熟知的技術進行監管，所以我認為我們應該雙管齊下。

赫拉利：但是談到監管，特別是我們在川普當選為美國總統後談論這個問題。他主要是以放松管制為競選綱領，並得到了馬斯克的大力支持。

我認為，所有關於美國將對人工智慧發展施加管制的幻想，以及各國政府之間就人工智慧監管達成某種全球協議的幻想，現在看來完全不可能實現。

這背後是某種進化邏輯或進化競賽。如果你更關心安全問題，投入更多資金建立防護措施，而不是盡可能快地向通用人工智慧發展，那麼你就落後了；如果競爭對手更無情一點，完全不顧及安全問題和防護措施，他們就會領先。

所以這是一場無情者之間的競賽。整個情況的悖論在於，他們認為自己能夠信任自己的人工智慧，但卻無法信任其他人類。然而他們不知道如何控制它或信任它，還樂觀地認為隨著我們開發通用人工智慧，我們會找到控制它的方法。