ChatGPT露骨涉性對話,令OpenA顧問驚懼

2026-03-16 | 來源: 華爾街日報網 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

今年1月，OpenAI特聘的負責身心健康與人工智能(AI)問題的顧問委員會與公司代表會面，聽取了一項極具爭議的新功能——“成人模式”的最新進展。

OpenAI首席執行官山姆·阿爾特曼(Sam Altman)去年曾提出一個想法：讓其聊天機器人ChatGPT能夠進行色情對話，並取消對此類限制級內容的禁令。他給出的理由是需要“把成年用戶當成年人對待”。

該計劃在公司內部引發了關於潛在風險的激烈辯論。顧問委員會的成員們也表達了強烈的保留意見，他們擁有心理學和認知神經科學等領域的背景。

接著，OpenAI拋出了一個重磅消息：盡管存在種種顧慮，但公司仍繼續推進其色情內容計劃。

據知情人士透露，當顧問委員會成員們在1月舉行會議時，他們意見一致，並且感到憤怒。他們警告說，由AI驅動的色情內容可能會讓用戶對ChatGPT產生不健康的情感依賴，而且未成年人可能會想方設法接觸到色情聊天。

這些知情人士稱，一名顧問委員會成員援引了一些案例，在這些案例中，ChatGPT用戶在與該機器人建立起強烈的情感紐帶後結束了自己的生命。該成員聲稱，OpenAI有可能會創造出一個“性感的自殺教練”。

各界一直在持續探討如何預判AI對經濟、社會和個人的潛在正負面影響，而這場辯論正是這一持續對話中的最新引爆點。

擬在廣受歡迎的聊天機器人中放開露骨涉性對話，暴露出OpenAI在平衡“用戶快速增長和數字自由”與“安全和兒童保護”方面的分歧。許多人認為，這些問題在上一代社交媒體問世時，就未能得到及時正視。

本月早些時候，OpenAI宣布將推遲“成人模式”的發布，該功能原定於第一季度推出。該公司稱，正在優先開發其他產品。知情人士表示，這一變動的部分原因還在於內部的擔憂和技術上的挑戰。但該公司明確表示，最終仍計劃推出這一功能。

據知情人士稱，該公司正在解決的一個問題是：旨在防止未成年人進行成人主題聊天的新年齡預測系統，一度出現約12%的誤判率，將未成年人誤認為成年人。這一錯誤率可能導致該公司每周約1億未成年用戶中的數百萬人進入色情聊天。

加國校園槍手案,ChatGPT7個月前"示警"

中共官員用ChatGPT 意外曝光全球恐嚇行動

OpenAI與美軍方合作惹眾怒:ChatGPT卸載量激增

知情人士還說，該公司還一直在努力解決一個難題：如何在解除ChatGPT色情內容限制的同時，仍然阻止那些公司希望禁止的場景，例如涉及非自願行為或兒童性虐待的內容。當“成人模式”推出時，OpenAI計劃允許文本對話，但會限制ChatGPT生成色情圖片、語音或視頻的能力。

根據《華爾街日報》(The Wall Street Journal)看到的文件，即便在這些限制之內，OpenAI的員工也已識別出多項風險，包括可能導致上癮式使用、對聊天機器人產生情感過度依賴、驅使用戶尋求更極端或禁忌的內容，以及擠占線下的社交和戀愛關系。

一位OpenAI發言人將該計劃描述為允許ChatGPT生成帶有成人主題的文本聊天，並稱其為情色內容，而非色情內容。該發言人補充說，公司的年齡預測算法表現與行業水平相當，但永遠不可能萬無一失。

該發言人還說，OpenAI也訓練其模型不要鼓勵用戶與之建立排他性關系，並提醒用戶需要在現實世界中建立人際關系。

該公司已經聘請了心理健康專家，並組建了一支青少年福祉團隊。該公司還說，其已制定了一項計劃，用以監測“成人模式”可能帶來的一系列長期影響，包括正面影響和負面影響。

阿爾特曼推出“成人模式”的計劃正值其公司面臨挑戰之際。隨著該公司為吸引用戶和資金而展開競爭，其相對於AI競爭對手的技術領先優勢已經減弱。該公司的財務虧損正在擴大，多起訴訟指控ChatGPT給用戶和其他人帶來了傷害。

科技前沿

長期以來，從攝影、互聯網到虛擬現實，色情內容往往是新技術早期的伴生物。AI也是如此。包括Character. AI在內的一些公司已經推出了能與用戶發展親密關系的聊天機器人，色情行業也已采用生成式AI來制作成人娛樂內容。

大型科技公司與露骨內容的關系一直很復雜，它們試圖在硅谷的自由意志主義精神、廣告支持業務的需求以及保護未成年人上網的責任之間取得平衡。Meta Platforms禁止在Facebook和Instagram上出現裸露和性行為內容。Alphabet旗下的YouTube禁止旨在滿足性欲的露骨內容，谷歌(Google)搜索則默認模糊其結果中的露骨圖片。