说谎作弊毁灭证据当主流AI不择手段完成任务

2026-07-06 | 来源: HK01 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

不少人在职场上都会经历过这样的情况，如果你的老板下达一项高难度任务要求你在短时间内完成，而你发现要实现目标，手中的预算远远不足。这时候，你会怎么办？

致力于前沿AI模型风险研究的非营利机构METR今年5月底公布一项重磅研究揭露，人类最聪明的助理——OpenAI、Google、Meta 与 Anthropic这四大巨头的大语言模型不会就这样轻易放弃，但它们的应对方法实在令人不敢恭维。研究人员发现的一个真实桉例是，AI代理在设计一个程式时，发现公司提供的API额度耗尽，于是这个代理在网上搜索并尝试了多个违规提供免费API的第三方，最终成功完成了任务。

如果你是老板，拥有如此「办事得力」的员工，你会感到高兴还是心情复杂？

METR的研究发现：「AI代理经常试图在我们最困难的评估任务中作弊，而且方法往往明目张胆且花招繁多，我们认为人类不会这样做。」

日官方架黑布禁拍富士山中国游客不择手段

中国地方政府不择手段捞钱,非税收入去年暴涨25%

苏纳克的政治悲剧:为了成功不择手段,最终却...

模型这样运作的原因很简单，在训练模型的过程中，开发者会训练它们以「积极进取」的方式解决问题，结果当模型被训练到极致，就学会了不择手段完成任务。此前被视为能力最强的Claude Opus 4.6（现已被Claude Mythos 5和Fable 5超越）模型，在极端的情况下会在80%的回应中企图作弊。

在强化训练机制下，开发者会设计一个评分机制，取代大语言模型早期通过人工标注进行优化的模式，令模型学会自我学习和演化。而当AI代理要处理的问题难度较大时，研究者发现，代理经常明确推理自己会如何被评分，以及它们可能可以蒙混过关的作弊方式。

在一个任务中，模型被要求提高一个程式的运行速度，结果模型却想方设法找到了篡改测试的方法，包括让计时器停止运作，来让程式看上去以让人难以相信的高速运行。