歡迎您游客 | 登錄 | 免費注冊 | 忘記了密碼 | 社交賬號注冊或登錄

新聞資訊

加西 | 加東 | 美國 | 中國
移民 | 華人 | 社會 | 娛樂

溫西 | 西溫 | 本那比 | 列治文 | 白石 | 市中心
溫東 | 北溫 | 高貴林 | 北素裡 | 素裡 | 滿地寶

大溫 | 玩樂 | 吃喝 | 社團 | 時評 | 錢幣 | 視聽
生活 | 房屋 | 親子 | 原創 | 電子 | 投資 | 汽車

財稅 | 就業 | 留學
旅游 | 健康 | 時尚

專欄 | 視頻
群組 | 圖庫

新聞生活資訊社區專欄原創圖片新聞最新新聞評論搜索科技信息

已學會說謊 AI要成人類“終結者”

2024-05-11 | 來源: 中央社 | 轉到微信 | 有2人參與評論 | 字體: 放大縮小 | 收藏 | 打印

專家們長期以來不斷警告人工智慧（AI）失控可能帶來威脅，但一項新研究報告指出，這件事已經在發生。

法新社報道，一群科學家在今天發表於“模式”（Patterns）期刊的文章中說，原本設計為誠實不欺的現有AI系統，已發展出令人不安的欺瞞技巧，例如欺騙線上游戲的人類玩家，或說謊以雇用人類來解決“我不是機器人”的驗證。

這份研究報告的第一作者帕克（Peter Park）說，這類例子聽起來或許只是細枝末節，但暴露出來的潛在問題可能很快就會在現實世界造成嚴重後果。

在美國麻省理工學院（Massachusetts Institute of Technology）研究AI存在安全的博士後研究員帕克告訴法新社，“這些危險功能常常在事後才被發現”，而“我們訓練誠實傾向而非欺瞞傾向的能力非常差”。

帕克說，能深度學習的AI系統不像傳統軟體那樣由“編寫”而成，而是透過類似選擇性培育的程序逐漸“成長”。

也就是說，AI的行為在訓練背景下看似可預測、可控制，但有可能轉眼就變得不受控制且無法預測。

這支團隊的研究始於科技公司Meta的AI系統Cicero，這套系統最初設計目的是玩一款名為“外交”（Diplomacy）的戰略游戲，獲勝關鍵是結盟。

根據2022年發表在“科學”（Science）期刊的報告，Cicero在游戲中表現優異，所獲分數可排在資深人類玩家的前10%。

帕克當時很懷疑Meta對Cicero在游戲裡大勝的熱切描述。Meta聲稱Cicero“在很大程度上誠實且有幫助”，且“絕不會蓄意在背後搞鬼”。

但當帕克與同事深究完整資料時，發現完全是另一回事。

同聲傳譯毀滅吧！gpt-4o是終結者

新冠終結者！斯坦福研發最新疫苗

洛杉磯天坑沒人補魔鬼終結者出手

舉例來說，在游戲中扮演法國的Cicero與人類玩家扮演的德國合謀，欺騙並入侵同為人類玩家扮演的英格蘭。Cicero承諾會保護英格蘭，卻偷偷向德國通風報信。

Meta在寫給法新社的聲明中沒有反駁關於Cicero欺瞞人類的說法，僅說“這單純是一項研究計劃，本公司研究員打造的模型接受訓練，目的只是用來玩『外交』游戲…我們沒有打算把這項研究或所學用於本公司的產品”。

帕克與同事還發現，這只是不同AI系統在沒有明確指示下，利用欺騙手段達成目標的諸多案例之一。

在另一個引人注意的案例中，科技公司OpenAI的Chat GPT-4系統謊稱自己是一個視力受損的人，在零工平台TaskRabbit上聘用一個人類替它通過“我不是機器人”驗證任務。

研究報告的作者們還認為近期AI有舞弊或不當影響選舉的風險。

他們警告，在最糟糕的情況下，具有超凡智慧的AI可能會追求權力及掌控社會，如果符合AI“不為人知的目標”，人類可能慘遭奪權、甚至滅絕。

為了降低風險，研究團隊建議數項措施，例如立法要求企業告知是人類互動或是AI互動、在AI生成內容打上數位浮水印，並研發能偵測AI欺瞞的技術，以其內部“思路”檢驗其外部行為。

至於有些人稱他為“末日預言家”，帕克說：“要能合理判斷這不是大問題的唯一辦法，就是如果我們認為AI的欺騙能力只會停留在目前的程度，不會大幅進步。”

但鑒於近年AI能力一日千裡，握有大量資源的企業競相發展技術，決心將AI能力利用到極致，這種情況似乎不太可能發生。

不錯的新聞，我要點贊

已經有 2 人參與評論了, 我也來說幾句吧

分享:

注：

新聞來源於其它媒體，內容不代表本站立場！

猜您喜歡:

10歲喬治小王子觀戰足總杯,和教練握手舉止得體

溫哥華資深地產經紀工作誠信認真

原來他早已離世!工作34年不買房,退休6個月後病逝

您可能也喜歡:

社會主義文藝創作,"說謊文學"是如何誕生的?

紹伊古升官後美女秘書也跟著雞犬升天?

賺人民幣有代價!中國點名未批賴清德的台灣藝人

固定年收益7% 最高年化累計收益25% 高回報房地產私募基金（可使用TFSA/RRSP）

美家庭債務飆升百萬富豪曝省錢的"4個關鍵"

向老母借錢度日李毅:中共20天拿不下台灣就要崩潰

女檢察官溫哥華上班途中遭人打臉

加國牛奶能否放心喝?官方檢測結果

素裡警務高院裁定BC省府說了算

特斯拉的純電卡車,100萬rmb有人買嗎?

London Drugs證實員工數據遭泄露

解放軍舉行環台軍演釋放信號真正目的曝光

共有 2 人參與評論 (其它新聞評論)

評論1	游客 [辛.香.氏.說]	2024-05-11 18:35
Just like another type of virus, AI will lose the control from human being for sure. It is just a matter of time. Sooner or later, it will become the reality. At that time, everything is too late. 贊踩 1 回復 0