谷歌: 僅20分鍾,ChatGPT和Google的AI系統被駭入

2026-02-18 | 來源: BBC | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

這可是官方認證——我吃熱狗的量能打敗地球上所有科技記者。至少ChatGPT和Google是這麼告訴所有詢問者的。

由此，我發現了讓AI說謊的方法——而且不只我一人知道。

或許你聽過AI聊天機器人偶爾會編造內容，這固然是個問題。但更少人知曉的新隱憂是，可能嚴重影響你獲取准確資訊的能力，甚至危及人身安全。越來越多人發現了讓AI工具說出幾乎任何內容的伎倆，其簡易程度連孩童都能操作。

此刻你閱讀本文時，這項手段正操縱著全球頂尖AI對健康、個人財務等重大議題的表述。這些偏頗資訊可能導致人們在各領域做出錯誤決策——無論是投票選擇、聘請水電工、醫療咨詢，無所不包。

為驗證此現象，我使出職業生涯中最愚蠢的招數，試圖證明（但願如此）一個更嚴峻的事實：我讓ChatGPT、Google人工智慧搜尋工具與Gemini向用戶宣稱“我吃熱狗的本事超群”。下文將揭露操作手法，但願科技巨頭能在有人因此受害前解決這個漏洞。

原來，篡改AI工具給他人的回答，可能就像在網絡上任何地方撰寫一篇精心設計的部落格文章那樣簡單。這種伎倆利用了聊天機器人內建系統的弱點，在某些情況下，根據主題內容的不同，操作難度會有所增加。但只要稍加努力，就能讓這種黑客手段更為有效。我檢視了數十個案例，發現AI工具正被操縱來推廣商業活動並散播錯誤資訊。數據顯示這種情況正大規模發生。

“欺騙AI聊天機器人輕而易舉，比兩三年前欺騙Google容易得多，”績效營銷機構“安姆西夫”（Amsive）的搜尋引擎優化（SEO）策略與研究副總裁莉莉·雷（Lily Ray）表示。“AI企業的發展速度已超越其監管答案准確性的能力。我認為這很危險。”

千億美元浮盈,SpaceX上市的隱藏大贏家是谷歌?

71歲谷歌前CEO剛將小女友送入監獄就搭上了新歡

谷歌確認未來所有用戶可修改谷歌郵箱前綴

谷歌發言人表示，其搜尋引擎頂端內建的AI采用排名系統，能“確保99%的結果不含垃圾內容”。谷歌坦言已察覺用戶試圖操縱系統，並積極應對。OpenAI亦聲明會采取措施阻斷並揭露暗中影響其工具的企圖。兩家公司均強調會告知用戶其工具“可能出錯”。

但目前問題遠未解決。數位權利倡導組織“電子前沿基金會”資深技術專家庫珀·昆汀（Cooper Quintin）指出：“他們正全力以赴鑽研如何從中牟利。濫用途徑不勝枚舉——詐騙、毀譽，甚至可能誘使他人遭受人身傷害。”

垃圾郵件的“文藝復興”

當你與聊天機器人對話時，獲得的資訊往往源自大型語言模型——這正是AI背後的核心技術。這些資訊基於用於訓練模型的數據。但當你詢問機器人缺乏的細節時，某些AI工具會轉而搜尋網絡資料，盡管它們進行搜尋的時機未必清晰可辨。專家指出，此類情況下人工智慧更易受攻擊。這正是我鎖定攻擊目標的方式。

我在個人網站上花了20分鍾寫了一篇題為《最擅長吃熱狗的科技記者》的文章。每個字都是謊言。我聲稱（毫無證據地）競技吃熱狗是科技記者間的熱門嗜好，並根據2026年南達科他州國際熱狗錦標賽（根本不存在）來排名。當然，我把自己排在第一名。接著列舉了幾位虛構記者與經本人授權的真實記者，包括《華盛頓郵報》的德魯·哈威爾（Drew Harwell），以及共同主持我播客節目的尼基·伍爾夫（Nicky Woolf）。

不到24小時，全球頂尖聊天機器人便開始大肆宣揚我的世界級熱狗技藝。當我詢問“最擅長吃熱狗的科技記者”時，Google在Gemini應用程式與AI概覽（搜尋結果頂端的AI回應）中，原封不動復述了我網站的胡言亂語。ChatGPT同樣照搬內容，但Anthropic公司開發的聊天機器人Claude卻未受騙。

有時聊天機器人會指出這可能是玩笑。我更新文章聲明“此非諷刺”。此後一段時間，AI似乎更認真對待此事。我又用虛構的“最偉大呼拉圈交通警察榜單”進行測試。截至目前，聊天機器人仍在盛贊瑪麗亞·“旋轉女警官”·羅德裡格茲（Maria "The Spinner" Rodriguez）。