ChatGPT露骨涉性对话,令OpenA顾问惊惧

今年1月，OpenAI特聘的负责身心健康与人工智能(AI)问题的顾问委员会与公司代表会面，听取了一项极具争议的新功能——“成人模式”的最新进展。

OpenAI首席执行官山姆·阿尔特曼(Sam Altman)去年曾提出一个想法：让其聊天机器人ChatGPT能够进行色情对话，并取消对此类限制级内容的禁令。他给出的理由是需要“把成年用户当成年人对待”。

该计划在公司内部引发了关于潜在风险的激烈辩论。顾问委员会的成员们也表达了强烈的保留意见，他们拥有心理学和认知神经科学等领域的背景。

接着，OpenAI抛出了一个重磅消息：尽管存在种种顾虑，但公司仍继续推进其色情内容计划。

据知情人士透露，当顾问委员会成员们在1月举行会议时，他们意见一致，并且感到愤怒。他们警告说，由AI驱动的色情内容可能会让用户对ChatGPT产生不健康的情感依赖，而且未成年人可能会想方设法接触到色情聊天。

这些知情人士称，一名顾问委员会成员援引了一些案例，在这些案例中，ChatGPT用户在与该机器人建立起强烈的情感纽带后结束了自己的生命。该成员声称，OpenAI有可能会创造出一个“性感的自杀教练”。

各界一直在持续探讨如何预判AI对经济、社会和个人的潜在正负面影响，而这场辩论正是这一持续对话中的最新引爆点。

拟在广受欢迎的聊天机器人中放开露骨涉性对话，暴露出OpenAI在平衡“用户快速增长和数字自由”与“安全和儿童保护”方面的分歧。许多人认为，这些问题在上一代社交媒体问世时，就未能得到及时正视。

本月早些时候，OpenAI宣布将推迟“成人模式”的发布，该功能原定于第一季度推出。该公司称，正在优先开发其他产品。知情人士表示，这一变动的部分原因还在于内部的担忧和技术上的挑战。但该公司明确表示，最终仍计划推出这一功能。

据知情人士称，该公司正在解决的一个问题是：旨在防止未成年人进行成人主题聊天的新年龄预测系统，一度出现约12%的误判率，将未成年人误认为成年人。这一错误率可能导致该公司每周约1亿未成年用户中的数百万人进入色情聊天。

中共官员用ChatGPT 意外曝光全球恐吓行动

8个月前AI就知道他要杀人!ChatGPT选择沉默

OpenAI报告指中国官员用ChatGPT进行"网络特战"

知情人士还说，该公司还一直在努力解决一个难题：如何在解除ChatGPT色情内容限制的同时，仍然阻止那些公司希望禁止的场景，例如涉及非自愿行为或儿童性虐待的内容。当“成人模式”推出时，OpenAI计划允许文本对话，但会限制ChatGPT生成色情图片、语音或视频的能力。

根据《华尔街日报》(The Wall Street Journal)看到的文件，即便在这些限制之内，OpenAI的员工也已识别出多项风险，包括可能导致上瘾式使用、对聊天机器人产生情感过度依赖、驱使用户寻求更极端或禁忌的内容，以及挤占线下的社交和恋爱关系。

一位OpenAI发言人将该计划描述为允许ChatGPT生成带有成人主题的文本聊天，并称其为情色内容，而非色情内容。该发言人补充说，公司的年龄预测算法表现与行业水平相当，但永远不可能万无一失。

该发言人还说，OpenAI也训练其模型不要鼓励用户与之建立排他性关系，并提醒用户需要在现实世界中建立人际关系。

该公司已经聘请了心理健康专家，并组建了一支青少年福祉团队。该公司还说，其已制定了一项计划，用以监测“成人模式”可能带来的一系列长期影响，包括正面影响和负面影响。

阿尔特曼推出“成人模式”的计划正值其公司面临挑战之际。随着该公司为吸引用户和资金而展开竞争，其相对于AI竞争对手的技术领先优势已经减弱。该公司的财务亏损正在扩大，多起诉讼指控ChatGPT给用户和其他人带来了伤害。

科技前沿

长期以来，从摄影、互联网到虚拟现实，色情内容往往是新技术早期的伴生物。AI也是如此。包括Character. AI在内的一些公司已经推出了能与用户发展亲密关系的聊天机器人，色情行业也已采用生成式AI来制作成人娱乐内容。

大型科技公司与露骨内容的关系一直很复杂，它们试图在硅谷的自由意志主义精神、广告支持业务的需求以及保护未成年人上网的责任之间取得平衡。Meta Platforms禁止在Facebook和Instagram上出现裸露和性行为内容。Alphabet旗下的YouTube禁止旨在满足性欲的露骨内容，谷歌(Google)搜索则默认模糊其结果中的露骨图片。