News 生活资讯社区专栏原创图片新闻 Recent News 评论搜索社会百态

AI换脸太可怕!华人公司损失2个亿

(加西网综合)随着人工智能AI视频换脸之深伪技术（deepfake）的发展，也曝光随之而来的问题！

就在上个月底，人工智能生成的美国流行歌星泰勒·斯威夫特的色情图像在社交媒体上传播。

而著名的加拿大人的名字和图像被用在人工智能生成的广告中，这些广告链接到宣传金融投资计划的虚假文章。专家表示很难防止此类诈骗的原因。

Famous Canadians have had their names and images used in AI-generated ads that linked to fake articles promoting a financial investment scheme. Here’s why experts say it's difficult to prevent these types of scams. https://t.co/kmFEtH4DaJ
— CBC News (@CBCNews) February 4, 2024

最近，警方公布了一家跨国公司财务工作人员成为诈骗者利用人工智能行骗的目标，这名员工最终和骗子利用深伪技术弄出来的众多假冒同事进行了虚假视频电话会议，导致公司损失了 2 亿港元（约合 3450 万加元）。

根据《全球新闻》的报道，中国香港警方近日举行新闻发布会公开该事件的细节，但没有透露涉案公司或员工的名字，以此警告公众警惕这一新骗局。

一大批华人父母走在返贫边缘…(图

特朗普预算或让加国人损失数十亿

"公司食堂免费又好吃"成现在打工人顶级炫耀

Police are warning that scammers are capable of staging fake video calls with multiple AI-generated participants.https://t.co/WQFBDrlHdD
— Globalnews.ca (@globalnews) February 5, 2024

根据当地警方的消息，该骗局始于上个月，当时该员工收到一封据称来自该公司驻英国首席财务官 (CFO) 的电子邮件。

据媒体报道，这封电子邮件涉及一项需要进行的“秘密交易”。该员工一开始也曾经有过“怀疑”，因为这封电子邮件似乎是网络钓鱼诈骗，但在假首席财务官邀请他们参加视频电话会议后，这名财力人员最终被愚弄了。

在视频会议上，似乎还有该员工认识的许多其他同事，甚至听起来像是真正的同事。但他们根本不是人，都是AI深度伪造品，是一种通过机器学习创建的合成媒体，可以模仿人的外表和言语。在骗局中，一位数字化重建的首席财务官和一些外部人士也出席了电话会议。

警方在新闻发布会上表示：“由于视频会议中的人看起来像真人，所以（员工）……按照指示向五个本地银行账户进行了 15 笔交易，总计 2 亿港元。”

警相信诈骗者提前下载了视频，然后使用人工智能添加假声音以在视频会议中使用。