中共濫用AI監控民眾 OpenAI出手了
今天（10月7日），美國人工智能公司OpenAI發布最新報告，宣布封禁多名疑似與中共政府機構有關的ChatGPT用戶。這些賬戶曾要求AI協助設計社交媒體監聽系統、輿論監控方案，企圖開發大規模追蹤工具。
OpenAI指出，這些行為明顯違反公司關於國家安全與人權的政策。報告警告，隨著美中在人工智能領域競爭加劇，專制政權濫用AI技術監控民眾的風險正在上升。
報告披露，一名ChatGPT用戶“極可能與中共政府機構有關”，他要求AI協助撰寫提案，用於開發能分析維吾爾人及其他“高風險人員”行蹤和警方記錄的系統。
美國國務院早在川普政府第一任期就已認定，中共當局在新疆對維吾爾穆斯林實施“種族滅絕與危害人類罪”。
另一名中文用戶曾請求ChatGPT幫忙制作“宣傳材料”，用於推廣一款能掃瞄X平台和臉書（Facebook）上政治與宗教內容的工具。OpenAI表示，這兩名用戶已被永久封禁。
OpenAI首席調查員本．尼莫（Ben Nimmo）告訴CNN：“在中共內部，有力量正推動AI在大規模監控中發揮更大作用。中共早就在監控國民，而現在他們希望用AI讓系統更高效。”
OpenAI還封禁了多個中文用戶，這些用戶利用ChatGPT實施釣魚詐騙、開發惡意軟體，並探索如何通過中國“DeepSeek”平台實現自動化攻擊。公司同時封禁了疑似講俄語的犯罪團伙賬戶，這些團伙使用ChatGPT開發惡意程序。
這張照片於2023年1月23日在法國西南部圖盧茲拍攝，螢幕上顯示了 OpenAI 和 ChatGPT 的標志。(LIONEL BONAVENTURE/AFP via Getty Images)
OpenAI指出，自去年2月起，公司已阻斷並上報超過40起惡意網絡活動，並讓模型自動拒絕任何具攻擊性的請求。
人工智能，已經成了美中角力中最敏感的領域。中共科技公司“DeepSeek”今年初推出低成本的AI模型，引發美國擔憂。川普總統隨後宣布，投入5億美元強化AI基礎設施，確保美國在人工智能領域繼續領先。
猜您喜歡
您可能也喜歡
評論
發表評論
視頻
相關功能
加西網微信公眾平台
加西網新聞
