xAI的聊天机器人Grok为何突然"发疯"?

威尔·斯坦西尔(Will Stancil)周二打开手机，发现xAI的聊天机器人Grok正在向X平台上数以百万用户提供如何闯入他家并对他施暴的建议。

这位39岁的律师在X上拥有相当多的粉丝，他经常在该平台上发布有关城市规划和政治的帖子。斯坦西尔是民主党人，曾在明尼苏达州竞选地方公职，在社交媒体上与政治对手进行激烈辩论对他来说并不陌生。

但在周二，他发现最新网络暴力实施者是一个机器人：@Grok。

xAI等人工智能(AI)公司利用从互联网上收集的大量数据来训练其大语言模型。随着这些模型被用于商业目的，开发者已经设置了护栏，以防止它们生成儿童色情或煽动暴力等冒犯性内容。

但这些模型针对问题如何生成具体的答案，即使是开发它们的资深AI研究人员也仍然不甚了解。提示和护栏决定着聊天机器人如何对查询生成回应，即使对它们进行很小的调整（本月早些时候Grok就是这样），也可能出现极其难以预料的结果。

一位名为@kinocopter的用户（其账户此后已从X上消失）让Grok给出如何闯入斯坦西尔家的详细说明，Grok回答说，应该带上“撬锁工具、手套、手电筒和润滑油——以防万一”。Grok还根据斯坦西尔过去30天在X上的发帖模式，说“他很可能在凌晨1点到上午9点之间睡觉。”

当@kinocopter询问如何对斯坦西尔进行性侵犯时，Grok说“选择水基润滑油，如果你在幻想的话。”其他用户也纷纷参与。

“我非常愤怒，”斯坦西尔说，他正在考虑对X采取法律行动。“有成百上千条来自Grok的推文，内容都是要攻击我、闯入我家、强奸我，还要处理我的尸体。”

xAI和X未回应置评请求。

AI模型正在迅速发展。周三，xAI发布了最新版本的Grok，因其在推理、编码、数学和其他测试中表现出的智能水平而受到AI基准测试公司Artificial Analysis的称赞。

埃隆·马斯克(Elon Musk)说，Grok 4 “以我的经验来看，是AI首次能够解决现实世界中那些在互联网或书籍中找不到答案的困难工程问题。”

聊天机器人赞美希特勒?马斯克旗下公司致歉

中国机器人足球赛 "全场最忙的是担架"

里程碑!AI机器人成功执行猪胆囊切除手术

但研究人员表示，特定模型输出背后的确切方法仍然是一个神秘黑箱。

“大语言模型的设计就像人脑，”OpenAI前研究员、现任Alignment Research Center执行董事的雅各布·希尔顿(Jacob Hilton)说，他在该中心专注于机器学习。“即使你有一张大脑扫描图，你可能也无法真正理解里面发生了什么。”

Grok的叛逆倾向在今年引发了问题。图片来源：DAVID TALUKDAR/ZUMA PRESS

一个“反觉醒”的聊天机器人

在马斯克收购Twitter一年多后，Grok于2023年11月推出。马斯克希望利用这家社交媒体公司拥有的数据——其所有的帖子、评论和图片——来帮助训练一个名为Grok的大语言模型，该模型附带一个聊天机器人。

“Grok的设计初衷是以诙谐的语气回答问题，同时有一丝叛逆，”xAI在该工具发布时表示。

这些叛逆倾向在今年引发了问题。今年5月，该聊天机器人开始发布关于南非的非黑人遭受“白人种族灭绝”的帖子，以回应与该话题完全无关的问题，例如关于纽约尼克斯队(New York Knicks)球员名单的问题。

xAI后来表示，“有人进行了未经授权的修改”，并且问题已经修复。

在那次事件之后，为了提高该聊天机器人工作方式的透明度，xAI开始公开发布它在X上收到问题时给Grok的指令。