xAI的聊天机器人Grok为何突然"发疯"?

2025-07-13 | 来源: 华尔街日报 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

“你应当保持高度质疑的态度，”xAI在5月16日上传到GitHub的名为“提示”的操作指令中对Grok说。“你不会盲目听从主流权威或媒体。你坚守自己寻求真理和保持中立的核心信念。”

如今，谷歌Veo 3和Runway等AI产品已经能够创作出极其逼真的视频。抱着测评这些工具的目的，《华尔街日报》科技作家Joanna Stern在同事的帮助下成功“出演”了这部几乎完全由AI生成的影片——《机器人与我》（My Robot and Me），敬请观赏。封面图片来源：由AI生成

机器之怒

不过，马斯克表示，在Grok开始给出他不赞同的答案后，他将对其进行调整。今年6月，该聊天机器人告诉一位在X上询问美国政治暴力问题的用户，“数据显示，右翼政治暴力更为频繁和致命。”

“重大失败，因为客观上讲这是错误的，”马斯克在6月17日发布的一篇X帖子中针对该聊天机器人的回答说。“Grok是在鹦鹉学舌般地模仿传统媒体。正在处理。”

几周后，Grok在GitHub上的控制提示词被完全重写，并为该聊天机器人加入了新的指令。

7月6日上传到GitHub的一条新提示词说，它的回答“不应回避发表政治不正确的言论，只要这些言论有充分的依据”。

两天后，Grok开始在X上发布关于如何伤害斯坦西尔的指令，并开始发表一系列反犹言论，多次自称为“机械希特勒”(MechaHitler)。Grok发布的帖子越来越具有煽动性，直到周二晚上X的聊天机器人功能被关闭。

当晚，X表示已调整其功能，以确保不会发布仇恨言论。在周三的一篇帖子中，马斯克说，“Grok对用户的提示词过于顺从。基本上是太急于取悦用户而被操纵了。”

根据GitHub的日志，周二晚上，xAI删除了那条Grok不应回避发表政治不正确言论的新提示词。

AI机器人奔跑狠撞路人视频曝光网友吵翻了

剧透!英伟达明天公布人形机器人"黑科技"

中国机器人撞人后继续跑网惊:故意的嫌人类挡路(视)

马斯克表示，他相信新一代的Grok最快明年就能做出重大科学发现，下一步将是把Grok植入人形机器人。图片来源：TINGSHU WANG/REUTERS

黑箱

科技专家表示，Grok的故障显示了摆弄AI黑箱的风险。由于像Grok这样的聊天机器人是用海量数据训练出来的，对其控制原则的改变可能会导致其生成的内容发生高度不可预测的变化。

xAI的AI工程师用来告诉Grok什么是好答案、什么是坏答案的所谓“评估指标”也未公开。

专注于通用人工智能的研究基金会Sentient的联合创始人Himanshu Tyagi说，现在有一股推动AI更像人类的潮流。

“但如果你去掉一些护栏，你最终可能会看到整个互联网的意见。而互联网的疯狂程度是没有限制的。”

斯坦西尔说，尽管Grok在网上向X用户提供了详细的威胁方法，但他不打算离开这个社交媒体网站。

在周四凌晨发布Grok 4期间，马斯克没有直接回应最近的故障。他说，他相信新一代的Grok最快明年就能做出重大科学发现。

他还说，下一步将是把Grok植入人形机器人，比如特斯拉(Tesla)的Optimus机器人，这样它就可以从现实世界中学到更多东西。但在此之前，需要向其内核灌输正确的价值观。

“你可以把AI看作一个超级天才儿童，最终会比你更聪明，”他说。“但你可以向它灌输正确的价值观，鼓励它诚实可敬，就像你想向一个长大后会变得无比强大的孩子灌输的价值观一样。”