AI换脸太可怕!华人公司损失2个亿

(加西网综合)随着人工智能AI视频换脸之深伪技术（deepfake）的发展，也曝光随之而来的问题！

就在上个月底，人工智能生成的美国流行歌星泰勒·斯威夫特的色情图像在社交媒体上传播。

而著名的加拿大人的名字和图像被用在人工智能生成的广告中，这些广告链接到宣传金融投资计划的虚假文章。专家表示很难防止此类诈骗的原因。

Famous Canadians have had their names and images used in AI-generated ads that linked to fake articles promoting a financial investment scheme. Here’s why experts say it's difficult to prevent these types of scams. https://t.co/kmFEtH4DaJ
— CBC News (@CBCNews) February 4, 2024

最近，警方公布了一家跨国公司财务工作人员成为诈骗者利用人工智能行骗的目标，这名员工最终和骗子利用深伪技术弄出来的众多假冒同事进行了虚假视频电话会议，导致公司损失了 2 亿港元（约合 3450 万加元）。

根据《全球新闻》的报道，中国香港警方近日举行新闻发布会公开该事件的细节，但没有透露涉案公司或员工的名字，以此警告公众警惕这一新骗局。

Police are warning that scammers are capable of staging fake video calls with multiple AI-generated participants.https://t.co/WQFBDrlHdD
— Globalnews.ca (@globalnews) February 5, 2024

根据当地警方的消息，该骗局始于上个月，当时该员工收到一封据称来自该公司驻英国首席财务官 (CFO) 的电子邮件。

据媒体报道，这封电子邮件涉及一项需要进行的“秘密交易”。该员工一开始也曾经有过“怀疑”，因为这封电子邮件似乎是网络钓鱼诈骗，但在假首席财务官邀请他们参加视频电话会议后，这名财力人员最终被愚弄了。

在视频会议上，似乎还有该员工认识的许多其他同事，甚至听起来像是真正的同事。但他们根本不是人，都是AI深度伪造品，是一种通过机器学习创建的合成媒体，可以模仿人的外表和言语。在骗局中，一位数字化重建的首席财务官和一些外部人士也出席了电话会议。

警方在新闻发布会上表示：“由于视频会议中的人看起来像真人，所以（员工）……按照指示向五个本地银行账户进行了 15 笔交易，总计 2 亿港元。”

又一美电信公司被确认遭"盐台风"黑客入侵

"1胎99子"短剧被下架,背后涉事公司是"翻车常客"

亚马逊CEO:未来几年公司大量岗位将被AI替代

警相信诈骗者提前下载了视频，然后使用人工智能添加假声音以在视频会议中使用。

专家警告，随着技术的进步，人工智能语音和视频生成变得越来越容易。过去需要大量录音才能创建可信的克隆声音，但现在只需要几秒钟的录制语音。任何公共视频都可以用来训练人工智能模型来模仿人的声音和外表。

警方公布此案件，希望提醒公众注意这些新的欺骗策略。这个案例暴露了诈骗者可以在在线会议中使用人工智能技术，所以即使是在很多人开会的情况下，人们也必须保持警惕。

被骗的员工直到一周后到公司总部报到时才意识到自己的错误。在此期间，诈骗者通过即时消息、电子邮件和一对一视频通话与受害者保持联系。

警方还透露，诈骗者还联系了该公司的几名其他员工，但没有公布这些互动的细节。

在假视频通话中，诈骗者让员工进行自我介绍，但这些假同事与受害者之间从未进行任何直接对话。据报道，人工智能生成的同事主要在简短会议结束前下达命令。

警方建议，员工应通过定期沟通渠道确认业务交易细节，一旦涉及金钱，应立即起疑，以避免此类人工智能诈骗。

警方仍在调查这起事件，到目前为止，尚未逮捕任何人。

现在世界各地的当局越来越关注深度深伪技术造假的复杂性及其可能的恶意用途。

今年一月底，人工智能生成的美国流行歌星泰勒·斯威夫特的色情图像在社交媒体上传播，凸显了人工智能技术带来的潜在破坏性。