ChatGPT回應成人內容爭議:我們不是"世界道德警察"

2025-10-16 | 來源: 騰訊科技 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

10月16日消息，OpenAI首席執行官山姆·奧特曼於美國當地時間周三表示，該公司並非"經選舉產生的世界道德警察"。此前，他決定放寬限制，允許其聊天機器人ChatGPT生成成人內容，這一決定引發了強烈反彈。

近幾個月來，OpenAI面臨越來越嚴格的監管審查，尤其是在保護用戶（包括未成年人）安全方面，該公司已陸續加強多項安全控制措施。

但奧特曼在社交媒體X上發文稱，隨著公司推出新的技術工具，並已能夠有效控制“嚴重的心理健康風險”，現在已可以“穩妥地放寬”絕大多數內容限制。

事實上，早在2024年12月份，奧特曼就已透露，將允許ChatGPT向“完成身份驗證的成年人”提供包括成人內容在內的更廣泛內容。

他在社交媒體上進一步上解釋這一政策，強調OpenAI“高度重視將成年用戶視為成年人的原則”，但同時承諾，仍會禁止“任何對他人造成傷害的內容”。

奧特曼寫道：“正如社會在其他領域設定適當邊界一樣（比如電影分級制度中的R級），我們也希望在此采取類似做法。”

不過，奧特曼的最新表態似乎與他8月份做客播客節目時的說法相互矛盾。當時他表示，他為OpenAI能夠抵制某些可能顯著提升ChatGPT使用量的功能而感到“自豪”，例如“性愛機器人虛擬形象”。

OpenAI與沃爾瑪聯手!ChatGPT中購物將成真

美國婦女讓ChatGPT生成彩票號碼結果意外了

用ChatGPT生成號碼,美國女子中10萬美元彩票大獎

他當時說：“我們本可以做很多短視的事情，來刺激用戶增長或收入，但那將與長期目標嚴重背離。”

今年9月，美國聯邦貿易委員會（FTC）對OpenAI及其他科技公司啟動調查，重點評估ChatGPT等聊天機器人可能對兒童和青少年造成的負面影響。此外，OpenAI還卷入一起非正常死亡訴訟：一個家庭指控ChatGPT導致其未成年兒子自殺。

在調查與訴訟之後，OpenAI陸續公開采取了一系列安全強化措施。9月底，該公司推出了多項家長控制功能，並正在開發一套年齡預測系統，未來將自動為18歲以下用戶啟用適合青少年的安全設置。

10月15日，OpenAI宣布成立一個由八名專家組成的委員會，旨在評估AI對用戶心理健康、情緒與行為動機的影響。然而同一天，奧特曼卻發文稱該公司將放寬內容限制，兩者在時間上的重合在社交媒體上引發困惑與強烈反彈。

奧特曼承認，這一決定引發的輿論反響“遠遠超出預期”。他的表態也引起了包括“全國反性剝削中心”（NCOSE）在內的多個社會倡導組織的關注，該組織已公開呼吁OpenAI撤銷允許成人內容的決定。

NCOSE執行主任海莉·麥克納馬拉在周三的一份聲明中指出：“性化AI聊天機器人本身就存在風險，在行業安全標准尚不明確的背景下，虛擬親密關系可能對用戶心理健康造成真實傷害。”

億萬富翁投資者馬克·庫班也公開警告稱，OpenAI允許在ChatGPT中生成成人內容的決定，正在家長和學校中引發信任危機。如果家長懷疑未成年人有可能繞過年齡驗證系統接觸到不良內容，就會毫不猶豫地棄用ChatGPT。