8月18日,法国传奇影星阿兰·德龙(Alain Delon)去世,令无数海内外影迷落泪惋惜。但就在他去世后的24小时后,一条来自阿兰·德龙的神秘视频在网络上迅速传播。
“如果你看到这个视频,说明我已经死了……我决定将留下的一部分遗产赠送给所有法国人民,每个人都能够通过我创建的在线赌场赢得4000欧元。我希望我的女儿已经启动了这个应用程序……您所要做的就是为您的账户充值作为押金,我会在视频下方留下该应用程序的链接。”
在这段46秒的视频中,阿兰·德龙本人“现身”并提出如果网友在他的在线赌场赢不到钱,他愿意提供10万欧元的补偿。
如此巨大的诱惑加上明星效应,让不少“很傻很天真”的网友欣喜若狂!
但是,天下真的有掉馅饼的好事吗?
AI换脸骗局大揭秘,多位明星背锅
在社交平台Facebook上,一个名为Le Point Français的页面发布了一个奇怪的公告:
想要从法国电影偶像阿兰·德龙的部分遗产中受益,没有比这更简单的了……您所要做的就是在指定的在线赌场注册并缴纳押金。
当然,这段视频是“Deepfake”—— 一种基于人工智能(AI)的多媒体合成技术。实际上,阿兰·德龙从未录制过这条消息,该视频也与演员没有任何关系。
没错,我们又被可恶的AI换脸骗到了!
随着Deepfake技术的普及,我们在网络上看到越来越多的骗子。诈骗原理很简单:骗子利用名人的样貌说他们创建了一个赌博应用程序来帮助人们致富,以此满足他们的慈善目的。
人工智能和“grazers”(网络诈骗者)专家维克多·巴伊特(Victor Baait)解释道,去年3月份,就有人通过Deepfake模拟了基利安·姆巴佩(Kylian Mbappé)的样貌进行诈骗,试图宣传一家赌场。
通常情况下,在视频发布后不久,页面评论区会出现一条置顶评论:鉴于感兴趣的人数已经增加(……),请您理解,不要拖延申请注册的时间。
人工智能专家Victor Baait 指出:
阿兰·德龙的去世对这些骗子团伙来说是一个绝佳的机会!他们了解他的生活,他们知道该说什么才能让视频变得可信,特别是利用他女儿的情况……这些细节足以赚取部分网友的信任。
电子易容术?一种制作精良的网络骗术
相信有不少小伙伴会好奇:如果真有人相信了这个骗局,往在线赌场账号里存钱会发生什么情况?
维克多·巴伊特对此也作出了解释:
要么骗子会先给你汇一笔钱,让你相信是自己赢了很多钱,继而再鼓励你存入更多的本金;要么你会被阻止进行下一步操作,之前存入的钱也无法取出。
在网络上,Deepfake这种通过AI换脸的电子“易容术”已经成为常态。它不是简单的模仿,而是利用AI工具从头到脚完全“复制”一个真人的外貌、身型和声音,最后以图像、视频或声音片段呈现。
早在2017 年,一位匿名 Reddit 用户就分享了 盖尔·加朵(Gal Gadot) 和 泰勒·斯威夫特(Taylor Swift) 等著名明星的经AI篡改的成人视频。
很快这一趋势迅速蔓延,一些企业迅速推出一种全新的信息技术服务:将用户已故亲人的旧照片通过Deepfake技术栩栩如生地呈现出来,并添加了他们的声音。
之后,Deepfake在社交媒体上流行起来。通过恶搞名人,起到娱乐大众的效果。
于是,我们会在许多恶搞短视频里看到类似的画面。比如,教皇方济各穿着一件巨大的白色羽绒服?
法国总统马克龙变成了路边捡垃圾的流浪汉?
经历前两个阶段后,一些心怀鬼胎的骗子团伙也瞄上了Deepfake。他们利用这种技术模拟名人形象传播虚假的信息,以达到勒索金钱或操纵舆论的目的。
有一点可以肯定,这种虚假视频真的有人相信。骗子团伙向Meta(全球最大的社交网络服务网站)付费来播放这些广告。他们乐此不疲地这样做,说明这些广告真的有效。我相信,阿兰·德龙的虚假视频也为他们带来了盈利,因为他们已经开始再次向Meta支付费用来推广这个骗局了。
最后于 3月前
被阿兰德龙编辑
,原因: