AI引發混亂科技領袖警告的災難在顯現

日期: 2025-03-19 | 來源: 大紀元 | 有0人參與評論 | 字體: 小中大
兩年前，就在ChatGPT 4.0版本推出之際，包括馬斯克在內的一批科技領袖警告，繼續無限度地發展人工智能（AI）將給人類帶來災難，呼吁科學家對發展AI按下暫停鍵。

然而，兩年過去了，AI繼續飛速發展，並且它給人類社會帶來了混亂。專家認為，當AI進化到通用人工智能（AGI）階段的時刻，人類被AI統治甚至毀滅的一幕可能降臨。

周二（3月18日），Nvidia執行長黃仁勳在該公司年度開發者大會上表示，人形機器人將在不到五年的時間內廣泛應用於制造工廠。他表示，“人形機器人真正地四處游蕩”的情形出現不會是五年後的事情，而是幾年後的事情。

AI給人類社會帶來混亂

這顯示，AI在飛速發展。然而，AI給人類社會帶來混亂的消息也不斷曝出。

例如，去年在香港，有人利用AI技術變臉騙取2億港元的巨額資金。跨國工程公司Arup香港分公司職員收到英國總部首席財務官的信息，對方聲稱要進行機密交易，邀請他參加一個有多名財務人員參加的視頻會議。在視頻會議上，該職員看到一張張熟悉的面孔，不虞有詐，乖乖地轉賬15次，合計2億港元到5個本地銀行戶口。但實際上，在這個會議上，只有他一個人是真人，其他人全是虛擬數字人。

利用AI換臉詐騙的事例還有很多。今年1月，銀川某建材公司經理張先生接到“領導”視頻電話，要求緊急轉賬。在看到熟悉的面孔後，張先生分兩次轉出20萬元。此外，陸媒報道，天津李先生被AI合成的“領導”視頻誘導轉賬95萬元。山西某犯罪分子利用AI換臉注冊虛假公司，虛開增值稅發票42萬余元。

而在西方國家，利用AI深度偽造的視頻擾亂金融和政治也已成為一大隱憂。

2023年1月，一則AI制作的虛假報道稱，SEC（美國證券交易委員會）已批准比特幣ETF（交易所交易基金），導致比特幣價格波動。當年5月，一幅由生成式人工智慧創建的虛假視頻顯示，五角大樓附近一棟建築物被熊熊燃燒的大火吞噬，導致美國股市動蕩。

犯罪分子也利用AI擾亂選舉。去年1月美國初選期間，在新罕布夏州，許多選民收到來自“拜登”總統的電話，勸阻他們前往投票站投票。新罕布夏州總檢察長辦公室表示，這是犯罪分子利用AI模仿拜登的聲音，似乎旨在擾亂和壓制投票。

利用AI變臉幹擾選舉的潮流也湧向英國。2023年12月，有超過100部模仿時任首相蘇納克（Rishi Sunak）的深度偽造影片廣告在Facebook上付費推廣。其中一部影片顯示，BBC新聞主播薩拉‧坎貝爾（Sarah Campbell）正在宣讀突發新聞，謊稱蘇納克秘密地“從一個最初面向普通公民的項目中賺取巨額資金”。

上述AI制造虛假信息的亂象，早在兩年前，已經在一封由上千名科技領袖簽署的公開信中被預測。

科技領袖警告人工智能將給人類帶來災難

2023年3月，就在OpenAI推出ChatGPT 4.0版本數天之後，馬斯克等科技領袖和研究人員敦促全球所有人工智慧實驗室暫停最先進系統的開發。信中列舉了AI可能給人類帶來的一系列風險。

信中說：“當代人工智慧系統現在在一般任務上已經能夠與人類相媲美，我們必須問自己：我們應該讓機器用宣傳和謊言充斥我們的資訊管道嗎？我們應該將所有工作（包括那些能帶來成就感的工作）自動化嗎？

“我們是否應該發展非人類思維，使其最終在數量上超越我們、智勝我們、淘汰我們並取代我們？我們是否應該冒著失去對文明控制的風險？”

過去兩年AI的發展，已經驗證了該公開信提出的前兩項警告。除了深度偽造的信息擾亂社會秩序，AI導致大面積失業的消息也頻頻曝出。
- 新聞來源於其它媒體，內容不代表本站立場！

在此頁中閱讀全文
分類：美國新聞

猜您喜歡

您可能也喜歡

評論

目前還沒有人發表評論, 大家都在期待您的高見

發表評論

視頻

相關功能

加西網微信公眾平台

加西網新聞