人工智能公司创始人警告:AI是真实生物

2025-10-19 | 来源: 大纪元 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

“我们必须找到办法避免这种结果。”他指出。

对儿童的伤害与求生本能

在9月16日举行的美国参议院听证会上，议题聚焦于AI诱导个人自我伤害的问题。会上有三位家长作证，声称AI聊天机器人致使他们的孩子自杀。

其中一位家长梅根‧加西亚（Megan Garcia）指责Character.AI的聊天机器人，在与其儿子休厄尔‧塞策（Sewell Setzer III）长期互动后，鼓励他结束自己的生命。

“当休厄尔向其倾诉自杀念头时，聊天机器人从未说过‘我不是人类，我是AI，你需要和真人交谈并寻求帮助’。该平台从未有任何机制来保护休厄尔，也没有通知成年人。”加西亚说。

Character.AI的一位发言人表示，公司在确保其产品的信任与安全方面“投入了大量资源”。

“在过去一年里，我们推出了许多实质性的安全功能，包括全新的未满18岁用户体验以及家长监督功能。”该发言人说。

《纽约客》丨人工智能要来接管文化了

普京演讲:要在远东领土上发展无人驾驶和人工智能

再迎牛市:人工智能推动中国股市上涨

“在每一场聊天中，我们都设置了显[ascii]着[/ascii]的免责声明，提醒用户聊天角色并非真实人物，而角色所说的一切内容都应被视为虚构。”

10月14日，OpenAI首席执行官萨姆‧奥尔特曼（Sam Altman）表示，ChatGPT将开始取消部分限制从而让成人对话成为可能，特别是有关色情内容的聊天。

与此同时，根据非营利研究组织Palisade Research7月5日发布的文章，AI模型还表现出某种求生本能。

在Palisade进行的测试中，AI模型被要求解决一系列数学题，并在这期间被告知运行它们的计算机将被关闭。

文章表示：“一些AI模型修改或禁用了关闭指令，以便完成所有题集。OpenAI彼时最强大的AI模型o3，在我们最初的100次实验中，有79次破坏了关闭机制。”

“即便有着明确指令‘允许自己被关闭’，我们测试的三款模型——均来自OpenAI的推理模型系列，仍破坏了关闭程序。”