哈哈哈,刷太多社交媒体,连AI都会变蠢而自恋?

2025-10-23 | 来源: 英国那些事儿 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

之前就有研究发现，如果一个人成天泡在网上，不是刷短视频就是玩社媒，久而久之，大量的碎片化或肤浅的信息，会让大脑变迟钝，导致丧失注意力和推理深度。

最近，得克萨斯农工大学、得克萨斯大学奥斯汀分校和普渡大学共同进行了一项研究，发现不光是人，就连AI经常看这些都会变傻......

（AI，示意图）

这项调查主要研究的是“大语言模型认知退化假说”，简单来说就是，给大语言模型训练的AI输入越多的垃圾数据，其输出的内容质量就会越差。

为了验证这个假说，三个大学的科研团队做了一项实验——

首先，团队在社交媒体X上，收集了一百万篇真实的帖子作为样本，这些垃圾帖子分为两大类：

· M1（参与度）：简短、以病毒式速度传播且被大量点赞或转发，旨在最大限度吸引用户关注的帖子。

· M2（语义质量）：被标记为信息价值低或标题党的帖子，比如夸大其词或使用博眼球的语句。

之后，科研团队按照不同比例分配这些垃圾帖，设计了一些训练数据组，有的是垃圾帖比例高的低质量组，有的则是垃圾帖较少的高质量组。

然后，团队用这些数据组训练了4个AI，分别是Llama3 8B、Qwen2.5 7B、Qwen2.5 0.5B和Qwen3 4B，每个AI使用的训练数据组都一样，这样就可以进行横向比较了。

实验的结果，果真如团队预想的一样。

当AI用低质量的数据组进行训练时，其推理准确率从74.9，下降到57.2；

对长上下文的理解能力从84.4，下降到52.3.

集体拒签"最后通牒",大批媒体撤离五角大楼

德语媒体:西方的稀土困境纯属自作自受

媒体:特朗普施压泽连斯基割地换终战

而且，样本组中垃圾帖的比例越高，下降的情况就会越严重，AI可能会进入“无思考”模式，无法做出推理，输出的答案很可能不准确。

虽然4个AI都受到影响，但情况也有所不同。

比如，Qwen 3 4B表现出的适应力更强；

M1和M2两类数据组都会让AI变傻，但M1的影响更严重。

更有意思的是，垃圾数据除了影响推理能力和理解能力，实验中AI还出现了伦理一致性下降（伦理一致性指道德标准、行为和价值观之间不存在矛盾），以及“人格漂移”的问题（人格漂移指AI在长期使用中，性格特征或行为模式逐渐偏离预设范围的现象）。

团队发现，接触大量垃圾数据后，AI会变得不那么可靠，更容易给出错误答案，而且更容易做出肤浅的反应。

比如Llama3 8B，它变得更自恋，也不那么随和了。

看来，不光是人类，就连AI都扛不住社媒上垃圾信息的狂轰滥炸。

基于以上实验结论，科研团队也分析了AI变傻的原因。

他们发现，当AI接到一个复杂的推理任务时，用垃圾数据进行训练的大语言模型AI，经常会出现跳过某些推理步骤的情况，研究人员将其称为“思维跳跃”。

这时，AI无法提供详细而合乎逻辑的解释，而是会给出更简短、更缺乏结构化的答案，通常是直接得出结论。

这中模式就解释了大部分准确率下降的问题。

而且，使用M1类数据进行训练的AI，会存在某些“黑暗特质”，比如自恋和精神病态的倾向加重。