随着人工智能（AI）的发展迭代，生成式AI正以前所未有的速度重塑着日常生活，但由此衍生出的新***、新套路也在刷新人们对风险防范的认知。这背后不仅关乎广大消费者的财产安全，还潜藏着人身安全的风险和隐患。
近日，外媒曝光了一种全新的数字***，***犯利用复杂的AI工具制作特斯拉CEO马斯克等名人的***，并利用这些“AI名人”对各种虚***的产品或“投资”进行背书，并承诺高额投资回报。
在其中一个典型案例中，“AI马斯克”背书的一家所谓的外汇公司轻松骗走了一名82岁的退休老人超过69万美元（约495万元人民币）的毕生积蓄。
在这类***中，***犯通常先寻找一个真实的***访马斯克的***，再使用AI工具将他的声音替换，并利用口型同步技术编辑马斯克的口型，让***看起来更加真实。对于普通人来说，这种以***乱真的***可能是非常难以辨别的。
除了马斯克外，“股神”巴菲特和亚马逊创始人杰夫・贝索斯等也是常出现在这类******中的名人。
“AI马斯克”泛滥，生成仅需几分钟，却有人被骗近500万元
最近几个月来，成千上万个由AI驱动的***在互联网上泛滥，这类***被称为“深度伪造（deepfakes）”。根据德勤的估计，AI驱动的“深度伪造”***/广告预计每年将造成数十亿美元的欺诈损失。
然而，这些***的制作成本只有几美元，几乎可以忽略不计，而且可以在几分钟内完成。这类***由于名人效应在社交媒体上被广泛推广，包括Facebook上的付费广告，扩大了它们的影响范围。
骗子们会从一段真实的***开始，比如下面这段来自《华尔街日报》的***访马斯克***，提问者是该报一名编辑Thorold Barker，他的声音也出现在***片段中。
图片来源：《华尔街日报》
在“深度伪造”***中，马斯克的嘴部动作用唇部同步技术进行了编辑，这种技术可以调整一个人的说话方式。骗子还会用语音克隆工具添加AI声音，这种工具可以从样本中***任何他们想要的声音。因此，最终的***对于普通的互联网用户来说，可能相当有说服力。
已有人因此上当受骗，82岁的退休老人Steve Beauchamp便是典型案例。据外媒报道，去年年底，82岁的退休老人Beauchamp观看了一段***广告。***中马斯克支持一个承诺快速回报的激进投资机会，口型与声音都高度吻合，还融入了马斯克标志性的南非口音，看起来极为真实。于是，Beauchamp联系了该广告背后一家名为Magna-FX的外汇公司，开设了一个248美元的账户。经过数周的一系列交易，Beauchamp耗尽了他的退休账户，最终投资了69多万美元（约合495万元），而这些钱都被卷走了。
另据非营利性消费者权益组织美国商业促进局的一份报告，一名得克萨斯州人表示，他在看到马斯克于2023年2月在所谓的YouTube“直播”***中发言后，损失了价值3.6万美元的比特币。其称，“我把比特币发送了出去，却再也没有收到任何东西。”
负责监控和检测“深度伪造”的公司Sensity分析了2000多个深度伪造***后发现，到目前为止，马斯克是这类***中最常见的“AI形象”。具体来说，自去年年底以来，“AI马斯克”出现在近1/4的“深度伪造”***中。而在加密货币相关的“深度伪造”***中，他出现的频率甚至高达90%。
对此，研究加密货币社区的专家表示，马斯克在全球拥有独特的粉丝群，其中包括保守派、反建制派和加密货币爱好者，这类群体往往会被另类的发财途径所吸引，这也使他们成为数字***犯的完美目标。而且这类群体中，年纪较大的互联网用户往往更容易成为***犯的目标，这类群体对加密货币、AI和马斯克都非常熟悉，但他们的警惕性往往不足。
除了马斯克外，“股神”巴菲特和亚马逊创始人杰夫・贝索斯等也是常出现在这类******中的名人。
AI技术成***工具，Facebook和Youtube是重灾区
外媒报道中称，目前来看，很难量化到底有多少“深度伪造”***在网上流传，但在Facebook的广告库中搜索这些***的常用关键词，能搜索到数十万个广告，其中许多都包含“深度伪造”***。
尽管Facebook已经删除了许多违反其政策的***，并关闭了一些账户，但其他***仍在网上流传，而且似乎每天都有更多的***出现。不仅是Facebook，YouTube上也充斥着这些******，而且通常使用“直播（live）”标签。但事实上，这些***是预先录制的”深度伪造”***。
YouTube在一份声明中说，仅今年一季度，就删除了超过1570万个频道和超过820万个***，这些内容大多因违反其反垃圾邮件政策而被删除。
这类“深度伪造”广告的盛行还导致澳大利亚亿万富翁Andrew Forrest提起民事诉讼，控告Facebook的母公司Meta在广告业务运营方面存在疏忽。他认为，Facebook的广告业务诱使“无辜用户进行了错误的投资”。Meta则表示，其正在培训自动检测系统，以捕捉其平台上的欺诈行为，但同时也提到，资金雄厚的欺诈者会不断变换策略以逃避检测。YouTube则表示，其政策禁止欺诈和篡改***，并于今年3月要求创作者在使用AI创作真实内容时必须披露。
事实上，数字***并不新鲜，但自去年AI工具开源后，新一波“深度伪造”***井喷。
今年早些时候，美国联邦贸易委员会（FTC）和FBI也发出警告称，AI驱动的网络犯罪和深度欺诈正在上升。FBI表示，“犯罪分子正在利用AI让网络攻击和其他犯罪活动更有效，更难以被发现”。
“深度伪造”***并不完美，甚至在一些***中，“AI马斯克”的嘴型都对不上，但有专家表示，对于一些***犯的目标群体来说，他们制作的***似乎足够有说服力，而且一直在改进。
此外，一些***还经常宣传虚***的人工智能软件，称它们可以产生可观的投资回报。***犯以此诱使目标受众一开始只投一小笔钱（大约250美元）。随后，骗子不断宣称投资会升值，人们往往慢慢被引诱投入更多资金。
被骗了毕生积蓄的Beauchamp在提交给美国商业改进局（Better Business Bureau）的报告中表示：“此刻，我愿接受所有指责与嘲讽，作为对自己轻信的惩罚。”
他表示，目前正依靠一个未向***者透露的较小退休账户及养老金来维持生计，而他原本***使用这些积蓄环游世界。Beauchamp已经向当地警方报案，但案件进展缓慢。“由于到处都是欺诈案件，我的案件被放在了队列中，”他说，“我没有抱太大希望。”
每日经济新闻
