据纽约时报报道，AI生成的埃隆·马斯克形象已经出现在数千条虚假广告中并导致数十亿美元的诈骗。随着尖端人工智能技术的广泛普及，以埃隆·马斯克等公众人物为焦点的“Deepfake”（深度伪造）风潮逐渐兴起，任何人都能轻易复制名人的声音，甚至以令人难以置信的逼真度篡改视频内容。这一现象迅速吸引了色情内容创作者、表情包制作者以及日益增多的诈骗犯的注意。
82岁的退休老人蒂夫·博尚普去年年底看到了一段马斯克支持一项承诺快速回报的激进投资机会的视频。他联系了该广告背后的公司，并开设了一个248美元的账户。在接下来几周的一系列交易中，博尚普花光了自己的退休账户，最终投资了超过69万美元（约495万人民币）。然而，这笔钱却消失了——被骗子们卷走了。
诈骗犯们编辑了一段马斯克的真实采访，使用人工智能工具将他的声音替换成了复制品。这种人工智能足够先进，可以调整细微的口型变化，以匹配他们为数字伪造品编写的新剧本。对于普通观众来说，这种操作可能难以察觉。
这些视频的制作成本仅有几美元，几分钟内即可完成。它们通过社交媒体进行推广，包括在 Facebook 上投放付费广告，从而扩大了其影响力。
“这可能是有史以来最大的深度伪造骗局。”Sensity 公司的联合创始人兼首席威胁情报官弗朗西斯科·卡瓦利说，该公司负责监控和检测Deepfake视频。
YouTube上的假马斯克直播
这些视频往往栩栩如生，捕捉到了马斯克标志性的僵硬节奏和南非口音。骗子们通常会从一个真实的视频开始，如一段由《华尔街日报》编辑托尔德·巴克尔采访马斯克的视频，巴克尔的声音也出现在剪辑中。骗子们会使用口型同步技术编辑马斯克的口型，该技术会调整视频中人物的说话方式。
Deepfake生成的AI马斯克
然后，他们会使用声音克隆工具添加一个人工智能声音，该工具可以从样本剪辑中复制任何声音。最终的广告甚至可能包括相应新闻机构的图标，对于普通网民来说，这会相当有说服力。
据 Sensity 分析的 2000 多个Deepfake视频显示，马斯克是这些视频中最常见的代言人，尤其是在加密货币投资广告中，几乎占据了90%。一些广告还以著名投资者沃伦·巴菲特和亚马逊创始人杰夫·贝索斯等人为主角。
YouTube上“埃隆比特币会议”的搜索结果显示了数十个自称的“现场视频”，其中包括一个Deepfake生成的马斯克兜售加密货币骗局。一些视频被数十万人观看。
这些骗局通常会宣传虚假的人工智能驱动的软件，声称它们可以产生惊人的投资回报。骗子们会鼓励目标对象先发送一小笔钱——大约 250 美元——并随着他们声称的初始投资价值增加，逐渐引诱他们投入更多资金。在一段从特斯拉股东大会上截取的视频中，AI马斯克介绍了一款由人工智能驱动的自动交易产品，该产品可以每天将给定的投资翻倍。研究加密货币社区的专家表示，马斯克的粉丝遍布全球，其中有大量的保守派、反建制派和加密货币爱好者，他们常常寻求赚取财富的独特方式，这使他们成为这些骗局的完美目标。
对此，马斯克没有回应置评请求。
此类AI网络诈骗案件已经越发猖獗。香港证券及期货事务监察委员会 5 月发布警告，称有人利用马斯克进行诈骗。今年早些时候，美国联邦贸易委员会和联邦调查局警告称，人工智能网络犯罪和Deepfake骗局的数量正急剧攀升。联邦调查局在一封电子邮件声明中表示，“犯罪分子正在利用人工智能作为强大武器”，以使“网络攻击和其他犯罪活动更有效且更难被察觉”。