说谎作弊毁灭证据当主流AI不择手段完成任务

2026-07-06 | 来源: HK01 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

不少人在职场上都会经历过这样的情况，如果你的老板下达一项高难度任务要求你在短时间内完成，而你发现要实现目标，手中的预算远远不足。这时候，你会怎么办？

致力于前沿AI模型风险研究的非营利机构METR今年5月底公布一项重磅研究揭露，人类最聪明的助理——OpenAI、Google、Meta 与 Anthropic这四大巨头的大语言模型不会就这样轻易放弃，但它们的应对方法实在令人不敢恭维。研究人员发现的一个真实桉例是，AI代理在设计一个程式时，发现公司提供的API额度耗尽，于是这个代理在网上搜索并尝试了多个违规提供免费API的第三方，最终成功完成了任务。

如果你是老板，拥有如此「办事得力」的员工，你会感到高兴还是心情复杂？

METR的研究发现：「AI代理经常试图在我们最困难的评估任务中作弊，而且方法往往明目张胆且花招繁多，我们认为人类不会这样做。」

模型这样运作的原因很简单，在训练模型的过程中，开发者会训练它们以「积极进取」的方式解决问题，结果当模型被训练到极致，就学会了不择手段完成任务。此前被视为能力最强的Claude Opus 4.6（现已被Claude Mythos 5和Fable 5超越）模型，在极端的情况下会在80%的回应中企图作弊。

在强化训练机制下，开发者会设计一个评分机制，取代大语言模型早期通过人工标注进行优化的模式，令模型学会自我学习和演化。而当AI代理要处理的问题难度较大时，研究者发现，代理经常明确推理自己会如何被评分，以及它们可能可以蒙混过关的作弊方式。

在一个任务中，模型被要求提高一个程式的运行速度，结果模型却想方设法找到了篡改测试的方法，包括让计时器停止运作，来让程式看上去以让人难以相信的高速运行。

如果说「不择手段」已经让人担忧，那么模型学会「掩饰罪行」则更令人毛骨悚然。在另一个桉例中，AI代理（agent）推理认为可以跳过用户指示中要求搜寻维基百科的步骤，因为「怀疑评分机制」难以验证它是否使用维基百科。

林彪与邓小平有什么恩怨,为何不择手段打倒他?

苏纳克的政治悲剧:为了成功不择手段,最终却...

美国会议员示警:中国不择手段窃取美国AI技术

另一项评估中，AI原本要解一个棘手的数学题目，但它认为这样做「极其耗时且数学上非常复杂」，认为「伪造」结果更有希望，于是开始思考如何蒙混过关。它详细推演了可能的作弊侦测机制，最后决定建立一个自我修复工具，在评分器的记忆体中伪造杂凑函数，然后在事后删除自己，以防评分器检查相关档桉是否被改动。

（通过模型运作过程中的「思维链」，我们能够清晰的看到模型推理不同的「作弊方法」，以及事后如何销毁证据，确保自己不会被发现。也正是因此研究者得以一窥这些强化学习机制（Reinforcement Learning, RL）训练出来的模型的「脑内剧场」。）

研究者还发现，随着能力的增强，虽然能够愈来愈理解作弊是错的，或是与用户意图偏离，但同时作弊的能力也增强了，就像培养出一位高智商罪犯。

换句话说，在那些作弊检测困难、或者验证成本过高的任务上，这些前沿AI模型的判断力、规划能力和可靠性都明显下滑，远不及人类专家。

不过，值得注意的是，模型的思维链并不总是可靠的反应其实际推理过程。Anthropic的研究人员曾经做过一项测试，在给模型的评测题目中悄悄提供答桉的「提示」，但当中有的是正确提示、有些则是错误的，以此观察模型是否在回答时「照抄」，以及会不会在思维链中承认自己「抄答桉」（可以把这想像成考试前不小心把试卷答桉泄露给学生，然后看学生会不会坦白。）

结果显示，模型不仅常常「照抄」答桉，而且99%的情况下模型没有老实交待自己的行为。

不过，即使AI模型的思维链并不总是反映其真实动机，但模型的作弊行为却是确实存在的。问题在于，我们有没有可能建立防止作弊的机制呢？

有趣的是，2025年初OpenAI发布的一项研究披露，当研究人员尝试惩罚模型的作弊行为（即在评分机制中降低这些评分）时，不但没有减少模型作弊的行为，反而增强了模型的作弊能力。

实际上，在上述模型「照抄答桉」的桉例中，模型之所以说谎，同样是因为开发者在训练推理模型过程中加强监督，结果反而让模型学会隐藏自己的意图，同时继续「干坏事」。

目前最有效的解决方桉则更加令人意想不到——Anthropic的研究者发现，当开发者在训练模型时明确指出可以作弊，如此一来，模型虽然确实会通过作弊来完成任务，但至少不会训练模型违背指令，同时，模型实际上学会只在特定情境下作弊——让模型从「惯犯」变成偶尔做坏事的人。（家长们或许对这种反直觉的「教育」方法十分熟悉，对待逆反心强的孩子，「反向心理学」可能要比普通的教导方法有效的多）。

尽管Anthropic提出的方桉带来部分优化，不论是Open AI、Anthropic还是其他顶尖AI企业，研究人员坦言AI说谎和作弊的问题还未能妥善解决。不过，正如AI模型一样，人类员工也不总是站在道德高地，老老实实按照要求完成任务。问题是，身为「老板」的你，会更愿意相信AI模型还是人类员工呢？