拜登电话留言呼吁选民勿投票?破坏

2024-03-05 | 来源: 香港01 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

Paul Carpenter — who holds world records in fork-bending and straitjacket escapes — showed NBC News how he created the fake Biden audio and said he came forward because he regrets his involvement.https://t.co/ad7OR42dkr — NBC New York (@NBCNewYork) February 23, 2024

美国新罕布什尔州（New Hampshire）1月23日举行全国首场总统大选的初选，拉开选战帷幕，然而就在这场初选的几天前，该州数千名选民接到的一通竞选广告电话却惊扰了选民、竞选团队和专家。事件再次唤起人工智能“深伪”（Deepfake）技术在美国大选中的潜在影响…..

“你知道投票给民主党人的重要性......我们需要你来帮助让选票上的每一个民主党人当选。”电话中的声音酷似民主党总统候选人、现任总统拜登（Joe Biden），他呼吁民主党选民不要在即将举行的初选中投票：“周二的选举只会帮助共和党让特朗普再次当选。让你的选票在11月发挥作用，而不是这周二。”一如普通的电话竞选广告，语音最后还提醒：“如果你以后不想再接到电话，请按2。”

但这并非平常的竞选广告。虽然语音一开头就使用了拜登标志性的口头禅“真是一派胡言（What a bunch of malarkey）”，试图增强说服力，但人们后来发现这是通过语音深伪技术人工合成的语音。

所幸，由于民主党今年一改传统，将党内首场初选改到南卡罗来纳州（South Carolina）进行，而共和党维持新罕布殊尔州的初选安排，这则AI广告并没有造成实质性的影响，但事件仍然在美国敲响警钟。

随着近年用深伪技术合成的逼真政治人物视频在网络上疯传，加上前年ChatGPT横空出世，新AI技术的出现一次次引发干扰民主选举的讨论。眼下，许多专家正发出警告称，语音深伪可能才是真正的威胁——这些语音易于合成，制作成本低廉，而且特别难以追踪。

加拿大国防部:拟向乌克兰运送2000枚火箭及武器

以黎边境出现中世纪武器"投石机" 以军官证实曝原因

黑熊走200公里来"复仇"?半夜钻车

幕后黑手：为警示公众策划

假拜登语音出现的两周后，新罕布什尔州检察长宣布查明语音源头为两家德州公司，电话营销公司Life Coporation以及Lingo Telecom，后者将自动电话录音传播给数千名选民（当中大多数为民主党选民），两家公司均被下令停止选民压制活动。此外，美国联邦通信委员会（FCC）同一周宣布，在自动电话系统中使用人工智能生成语音属于违法行为。FCC有权对在这类电话中使用人工智能声音的公司处以高达逾23,000美元（每通电话）的罚款，或封杀提供人工智能声音的公司。

此前，曾有两位保守派骗徒用自动拨号电话（非AI合成语音）在非裔美国人聚居区制造假消息，称邮寄投票可能会增加他们被逮捕、追讨债务和强制接种疫苗的风险，最终被处以500万美元（约3,900万港元）罚款。

然而，直到2月底一名资深政治顾问Steve Kramer向媒体认罪，人们才找到案件的幕后黑手。Kramer表示，他花了150美元请了一位街头魔术师帮助用人工智能程式制作拜登的深伪语音，目的是为了提醒美国公众人工智能的政治风险。他认为当局在该问题上行动力十分落后，有必要加大执法力度，阻止这类事情发生：“即使是单独行动的个人，也可以快速、轻松地利用人工智能达到误导和破坏的目的。”

Kramer表示自己无意破坏选举、压制选民，他从策划行动时便计划在事后公开认罪。由于拜登在该州拥有很大优势，他认为仅数千个电话不会对结果产生影响。

街头魔术师花1美元、20分钟假冒拜登

事实上，Kramer策划的这出戏确实证明了他的观点。根据安全公司Pindrop对假拜登语音的分析，这段语音是通过美国人工智能语音公司ElevenLabs开发的产品生成。帮助Kramer生成语音的魔术师Paul Carpenter则对媒体透露，他只花了1美元、用了20分钟就按照Kramer提供的文稿，复制出拜登的声音。