AI诈骗全国爆发技术进步骗子先用?

2023-05-24 | 来源: 南方周末 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

▲ （视觉中国 / 图）

接下来出现在我们视频里的骗子，就更加底气十足了：看脸、听声音，实在不行给你刷个指纹、手掌认证，你还能不信么？就此，传统的交叉验证手段也面临失灵。那么人类只能退回10年前，凡事别用视频沟通，最好当面谈。

当然，这或许能重塑我们的社会关系。不知有多长时间，哪怕是最亲的朋友家人，都是一个微信电话了事。遇到问题，也是一键支付解决。而当人与人重归线下，见面的频次多了，或许那种久违的“熟人社会”感觉就回来了。

文｜毕舸

从ChatGPT所代表的生成式AI而起，越来越多的人对于其双刃剑效用感到担忧。如今，这一担忧似乎正被不断出现的案例所验证。

近日，包头警方发布一起利用AI实施电信诈骗的典型案例，福州市某科技公司法定代表人郭先生10分钟内被骗430万元。据悉，郭先生的好友突然通过微信视频联系他，称自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。后续郭先生拨打好友电话，才知道被骗。骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。

值得注意的是，骗子并没有使用一个仿真的好友微信添加郭先生为好友，而是直接用好友微信发起视频聊天，这也是郭先生被骗的原因之一。骗子极有可能通过技术手段盗用了郭先生好友的微信。幸运的是，接到报警后，福州、包头两地警银迅速启动止付机制，成功止付拦截336.84万元。

Airbnb女王的没落：从顶尖名流到卷钱跑路的骗子

遭电信诈骗后，俄亥俄74岁老太持枪抢银行(图)

加拿大教授认为“西方将因移民问题爆发内战” 马斯克赞同(图)

从郭先生的描述来看，骗子对于AI技术的运用之快、运用程度之高令人咋舌，AI换脸、AI换声，拦截微信号，几乎无一不出自AI技术之手。

坦率来说，AI风险近年来确有不断增大之势。比如，“AI换脸”技术已经多次出现，人们只需提供一张照片，经深度合成算法处理，就能秒变视频主人公。当时不少人将其作为消遣和乐趣。如今回想起来，这些人脸信息如果没有得到妥善处理，极易流向未知领域。或许就在明天，你的脸出现在另一个人身上，用于向你的微信好友寻求资金帮助。

或许是一种规律：对于某项新兴技术，骗子基于牟利需求，总是比普通人具有更灵敏的嗅觉。比如，之前比特币出现，大多数人也就是当成聊资。可很快就有犯罪团伙将其用于洗钱。洗钱者在交易所购买比特币，并将带有犯罪资金的比特币发送到另一个比特币地址。然后通过多次转账和分割比特币，使交易链变得复杂，破坏交易记录的可跟踪性。最后，通过将比特币转换为现金，将“清洗”的钱流入正常的经济活动。

再早一些，但凡看过盗版影视作品的人，都应该知道BT种子下载。在BT下载出现之前，人们下载内容都来自服务器，速度受限于服务器的传输能力。

与传统下载不同，用BT下载反而是用户越多，下载越快。BT首先在上传端把一个文件分成了若干个部分，甲在服务器随机下载了第N个部分，乙在服务器随机下载了第M个部分，这样甲的BT就会根据情况到乙的电脑上去下载乙已经下载好的M部分，乙的BT就会根据情况到甲的电脑上去下载甲已经下载好的N部分，不但减轻了服务器端的负荷，也加快了用户方（甲乙）的下载速度。

就此，这一理念先进的共享式技术被高频率用在盗版软件、影视作品下载中，BT下载技术因此被冠以“盗版技术”之名。

再回到如今的“AI诈骗”，有观点认为，“AI换脸”“AI换声”技术展现效果仍有缺陷，仿真度不够高。但这往往需要当事人仔细辨识，对于老人等群体而言，恐怕很容易就上当受骗。