微軟: 駭客濫用ChatGPT!微軟:俄和北韓等有關帳號已被停

2024-02-19 | 來源: ettoday | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

▲ChatGPT遭駭客濫用以推進攻擊技術。

美國人工智慧開發公司OpenAI和微軟今天表示，與俄羅斯、北韓、伊朗政府有關聯的駭客已經開始利用聊天機器人ChatGPT，探尋發動網路攻擊的新方法。

法新社報導，OpenAI和微軟（Microsoft）表示，兩家公司加強阻止國家代理人惡意利用這種熱門人工智慧（AI）聊天機器人，與駭客有關聯的帳號已被停用。

微軟是OpenAI主要財務支持者，並使用稱為「大型語言模型」（Large Language Model，LLM）的所屬AI技術來支援自己的應用程式（app）和軟體。

微軟表示：「包括發表這項研究在內，微軟與OpenAI合作目的是為了確保安全、負責地使用諸如ChatGPT之類的AI技術。」

微軟指出，駭客正利用LLM，來「推進他們的目標和攻擊技術」。

揭秘暴雪網易“復婚”始末:微軟做媒,最快6月回歸

微軟慘遭拜登政府嚴厲批評(圖)

Windows10明年淘汰微軟續當釘子戶

ChatGPT背後的微軟公司在另一則部落格發文中表示，包括使用領先世界的GPT-4模型在內，OpenAI的服務被用在「查詢開放原始碼訊息、翻譯、找出編碼錯誤、執行基本編碼任務等」。

根據微軟，與俄羅斯軍事情報有關的組織「森林暴雪」（Forest Blizzard）已改用LLM來「研究各種可能和烏克蘭傳統軍事行動相關的衛星和雷達技術」。

微軟指出，這樣的使用方式「是運用新技術探敵案例的典型」。

和北韓有關的Emerald Sleet采取的行動則涉及和這個共產主義政權有關的智庫與專家研究，以及可能用於網路釣魚活動的內容。

與伊朗革命衛隊（Revolutionary Guards）有關的Crimson Sandstorm則利用ChatGPT來對惡意軟體進行程式編排和障礙排除，並為駭客尋找避免被偵測到的訣竅。

OpenAI表示，這樣的危險是「有限的」，但該公司試圖於威脅不斷演進前搶占先機。

OpenAI指出：「需要對少數惡意行為者持續注意，這樣其他人才能繼續受益。」