斯坦福大學人工智能恐引核級災難

2023-04-11 | 來源: 新唐人 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

微軟（Microsoft）背景前一部手機屏幕顯示了人工智能公司OpenAI的徽標。(LIONEL BONAVENTURE/AFP via Getty Images)

2022年以來，人工智能（AI）技術飛速發展，從谷歌的DeepMind預測人體中幾乎所有已知蛋白質的結構，到OpenAI的生成性人工智能助理工具DALL-E和ChatGPT的成功發布，但許多專家擔心AI可能對世界產生災難性影響。

據斯坦福大學人工智能研究所本月初發表的一份關於AI技術的年度報告，在參與調查的研究人員中，36%的人認為AI的影響不是積極的，他們警告說AI做出的決定可能導致“核級災難”。

雖然絕大多數研究人員說人工智能和自然語言處理（計算機科學中與開發AI有關的分支）對未來的淨影響將是積極的，但人們仍然擔心該技術可能很快發展出潛在的危險能力，而傳統的守門人已不再像以前那樣強大。

根據該報告，大約3/4的自然語言處理研究人員表示，AI技術可能很快引發“革命性的社會變化”。

“隨著創建和部署生成性人工智能系統的技術門檻急劇降低，對公眾來說，圍繞人工智能的倫理問題變得更加突出”，報告說，“初創企業和大公司發現自己處於部署和發布生成模型的競賽中，該技術不再由一小群行為者控制。”

斯坦福大學博士拒年薪50萬工作入職鄉鎮公務員

斯坦福大學驚人研究:燃氣灶污染致白血病哮喘

斯坦福中國留學生研發炒菜機器人火

在過去的幾個月裡，對AI的擔憂大多集中在該技術對社會的破壞性影響上。根據高盛上個月的一份研究報告，如果生成性人工智能充分發揮其潛力，美國和歐洲有多達3億份工作面臨風險，其中法律和行政職業面臨的風險最大。

此外，生成性人工智能也引發了人們對該技術不准確的擔憂。微軟和谷歌的人工智能產品都經常做出不真實或誤導性的陳述。

與此同時，人工智能的快速發展意味著沒有大膽創新的公司和個人可能會被甩在後面，而且該技術可能很快就會發展到人們無法想像的程度。

據斯坦福大學的報告，57%的研究人員稱，以AI目前的發展速度，該技術正在從生成性人工智能向創造人工通用智能發展。人工通用智能（AGI）是一種能夠准確模仿甚至超越人腦能力的人工智能系統。

接受調查的斯坦福大學研究人員中約有58%稱AGI是一個“重要的關注點”。如果AGI真的能夠成為現實，它將可能代表人類歷史和發展的一個開創性時刻，但當人類失去對該技術發展的控制時，人工智能將獲得高於人類的智能。

調查發現，斯坦福大學的專家們最關心的問題是當前的AI研究過於關注規模化、實現目標，而未能涵蓋其它不同的研究領域的考慮。隨著對AI技術更大影響的研究繼續進行，其他專家也提出了類似的擔憂，呼吁主要開發商放慢AI的發展步伐。

上個月，1,300名簽署者聯合發出一封公開信，包括馬斯克（Elon Musk）和史蒂夫·沃茲尼亞克（Steve Wozniak），他們呼吁6個月內禁止人工智能公司開發更強大的版本。