人工智能:真是假信息與謊言的新天堂?

2025-02-10 | 來源: RFI 華語 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

人工智能：真是假信息與謊言的新天堂？ https://t.co/TZo3EmIsDc pic.twitter.com/lIedDhz2sE— RFI 華語 - 法國國際廣播電台 (@RFI_Cn) February 10, 2025

法國主辦世界人工智能峰會，法國與歐盟竭力希望通過峰會為人工智能發展制定法規，為向人工智能世界裡的虛假信息泛濫作斗爭，准備規范的武器。但是，人工智能，被指控是虛假信息的新陣地。

從旨在影響選舉的深度偽造到傳播虛假新聞的聊天機器人，信息世界的污染似乎是人工智能（AI）日益廣泛使用的主要危害之一。

目前正在巴黎舉行的全球峰會重點討論了這項技術，該技術的快速推動為虛假信息提供了強大的新工具，從而助長了近年來虛假信息的興起。

比如，2023年的斯洛伐克，一段錄音引起轟動：親歐洲政黨的領導人承認議會選舉被操縱。這是一個深度偽造的視頻，內容是通過人工智能操縱的，卻能夠影響選民。

世界各地的政客們已經為這種做法付出了代價，這種做法在社交網絡上極有可能廣泛傳播。

美國前總統拜登就是“受害者”，他的聲音被假冒，冒充的聲音建議選民不要去投票。或者還有馬克龍，在一段被廣泛流傳、配樂經過篡改的視頻中馬克龍宣布辭職。

美國、意大利、英國和巴基斯坦等國的女性政客也曾成為人工智能生成的色情圖片的受害者。研究人員認為這一趨勢令人擔憂。

專門聚焦虛假信息研究組織美國陽光計劃 (American Sunlight Project) 警告稱，這些性愛深度偽造視頻還經常針對美國歌手泰勒·斯威夫特 (Taylor Swift) 等名人，現在所有女性都容易受到這些視頻的攻擊。

人工智能也是大規模數字幹擾行動的核心。

人工智能真的能幫人們找到愛情嗎?

爭先恐後美國人工智能巨頭在這國大力投資

微軟CEO:真心希望你今年別再說人工智能為垃圾了

最引人注目的例子是名為“Doppelg?nger”或“Matryoshka”的親俄運動，網客大量使用虛假資料包括機器人來發布人工智能生成的內容，目的主要是破壞西方對烏克蘭的支持。

分析網站和在線內容可靠性的新聞衛士 (Newsguard) 組織主編 Chine Labbé 警告說， “新的發現包括，一些人僅憑極少的財力和時間就能如此輕易地傳播虛假內容，而且這些內容看起來越來越可信，也越來越難以被發現識破。”

法國打擊外國數字幹擾的組織 Viginum 在巴黎IA 峰會上發表的一份報告中也強調，人工智能“大規模地”為“網絡平台上虛假賬戶的生成和管理提供了前所未有的支持”。

沒有哪個地區能免受這些虛假內容的侵害：虛假音樂視頻經常被傳播，只需點擊幾下鼠標就能偽造出歷史事件的照片並被傳播。

在 Facebook 上，各個賬戶正在不斷增加由人工智能生成的漂亮的圖像，以獲得關注。其目的不一定是為了傳播虛假信息，而是為了吸引注意力以達到商業目的，或者甚至在發現容易上當受騙的用戶後准備針對他們實施詐騙。

另一個例子是：2024 年，法國的 Michel Cymes 等知名醫生的深度偽造視頻被發布，以推廣他們從未支持過的治療方法。

12月底，紐約地鐵上一名男子縱火焚燒一名女子的事件成為美國頭條新聞，一張據稱是受害者的照片被廣泛傳播。它是由人工智能生成的，並且該戲劇被工具化，目的是重定向到加密貨幣網站。

因此，每次重大新聞事件都會產生大量在線創建的圖像，例如 2025 年初洛杉磯發生的大火，火焰中的“好萊塢”標志或灰燼中的奧斯卡獎的假照片傳遍了世界各地。

據法新社引述專家認為，中國版DeepSeek的出現，在其部分回應中反映了中國官方的立場，這只會強化對這些工具實施規范框架的必要性。應該“教會人們辨別可靠消息來源與宣傳性消息”。