8 月 15 日音问，据好意思媒报谈，连年来，东谈主工智能深度伪造本事（Deepfake）在收罗诳骗中平常应用，尤其是诈骗伪造的埃隆・马斯克（Elon Musk）视频进行诳骗的案例尤为凸起。这些视频通过模拟马斯克的声息和动作gay_porn，误导投资者。这类深度伪造视频资本便宜、传播速即，使得诳骗者约略泛泛扩大其诓骗举止的影响范围，导致很多受害者因为不实的投资契机而死亡浩繁资金。跟着深度伪造本事的风险日益突显，其每年可能导致的诓骗死亡瞻望将达数十亿好意思元。
以下为翻译全文：
现年 82 岁的退休老东谈主史蒂夫・比彻姆（Steve Beauchamp）本但愿为家东谈主增多一些收入，他把但愿交付在了埃隆・马斯克（Elon Musk）身上。旧年底，比彻姆有时看到一段视频，视频中马斯克似乎在推选一个应承能速即收成的激进投资决策。受此启发，比彻姆速即议论了该视频背后的公司，并以 248 好意思元开设了一个投资账户。然则，在接下来几周里，他缓缓增多投资，最终从退休金账户中动用了特别 69 万好意思元。
但不久后，这些钱就灭绝了，落入了一群诈骗东谈主工智能进行新式数字诳骗的骗子之手。这些诳骗者奥妙场地窜了一段马斯克的竟然采访，诈骗 AI 本事替换了他的声息，并微调了他的口型，以匹配他们为这个数字东谈主编写的新脚本。对于一般不雅众来说，这种操作简直是察觉不出的。
比彻姆回忆起那段视频，欷歔地说：“视频中的他，形象赫然，一眼就能认出是马斯克。至于是否是 AI 让他说出那些话，我当今也无法笃定。但就视频画面而言，要是有东谈主要我从东谈主群中识别他，我服气能指出来。”
马斯克成深度作秀常客
近几个月来，互联网上充斥着数以千计的这种由 AI 驱动的视频，这些被称为“深度作秀”（Deepfake）的视频中，伪造的马斯克形象误导了繁多潜在投资者。据德勤算计，这类由 AI 援手的深度作秀每年可能导致数十亿好意思元的诓骗死亡。
这些视频制作资本极低，几分钟内即可完成，并通过应对媒体进行实行，包括在 Facebook 上的付费告白，大大推广了它们的影响范围。监测和检测深度作秀视频的公司 Sensity 搭伙首创东谈主兼威迫谍报专揽弗朗西斯科・卡沃利（Francesco Cavalli）对此发出申饬：“这可能是有史以来最大范围的深度作秀骗局。”
这些视频通常惟妙惟肖，精确捕捉了马斯克瑰丽性的不连贯语调治南非口音。诳骗者时时从一段竟然的视频出手，比如《华尔街日报》采访，作秀视频中保留了记者的声息，这增多了视频的竟然性。
诈骗先进的对口型本事，诳骗者篡改了马斯克的嘴部动作，使其与他们伪造的台词齐全匹配。他们还使用了声息克隆器具添加 AI 声息，这些器具能从样本片断中复制任何声息。最终的告白中，可能还包括伪造的图形，师法新闻机构的神色，这对一般收罗用户来说可能颇具劝服力。
左证 Sensity 的分析，马斯克是这些视频中最常见的发言东谈主。在近 2000 个分析样本中，绝顶是从旧年底运转，他出当今了近四分之一的深度作秀诳骗中。在那些以加密货币为主题的视频中，这一比例甚而高达近 90%。深度作秀告白还通常使用沃伦・巴菲特（Warren Buffett）这么的闻明投资者和亚马逊首创东谈主杰夫・贝索斯（Jeff Bezos）等商界大佬。
尽管很难准确统计出有几许深度作秀在收罗崇高传，但通过搜索 Facebook 告白库中常用的与诳骗相干的讲话，发现了数十万条告白，其中很多包括了深度作秀视频。天然 Facebook 已删除了很多违背战术的本色，并禁用了相干账户，但仍有其他视频留在了收罗上，而且似乎每天齐有更多视频出现。
YouTube 也充斥着这些伪造的本色，这些视频通常带有“直播”标签。事实上，这些齐是事前录制的深度作秀视频。在 YouTube 上搜索要道词如“埃隆比特币会议（Elon Bitcoin conference）”，不错看到数十个伪装成直播的视频，视频中的深度作秀马斯克正在兜销加密货币诳骗，误导性极强。
在好意思国前总统唐纳德・特朗普（Donald J. Trump）在比特币会议上发言后，YouTube 上速即出现了数十个标注为“直播”标签的视频，展示了一段事前录制的深度伪造马斯克视频，宣称会加倍返还发送到他账户的任何加密货币。这些视频天然眩惑了大宗不雅众，其中一些视频的不雅看次数达到了数十万。但 YouTube 默示gay_porn，诳骗者可能使用收罗水军东谈主为夸大不雅看次数。
据非牟利破钞者权力组织 Better Business Bureau 的证明，别称得克萨斯州住户在 2023 年 2 月通过 YouTube 上一段所谓的“直播”视频，看到了伪装成马斯克的诳骗信息，因此死亡了价值 36，000 好意思元的比特币。该住户默示：“我转了比特币，但什么齐充公到。”
FB 与 YouTube 成重灾地
YouTube 在一份声明中默示，仅在本年 1 月至 3 月时代，平台就移除了特别 1570 万个频谈和特别 820 万个视频，这些本色大多因违背其反垃圾邮件战术而被删除。
鉴于不实告白泛滥，澳大利亚亿万财主安德鲁・福雷斯特（Andrew Forrest）对 Facebook 的母公司 Meta 拿起了民事诉讼，责备其在告白业务中的坚强，宣称这些告白业务误导了无辜用户进行造作投资。据悉，福雷斯特本东谈主的视频也被用于制作深度作秀告白。
Meta 公司答复称，正在检修自动检测系统以识别平台上的诓骗举止，但也坦言这是一场复杂的猫鼠游戏，因为资金充足的诳骗团伙束缚改变策略以走避检测。YouTube 则重申其遏抑诓骗和视频点窜的战术，并在本年 3 月条目整个创作家在使用 AI 创造传神本色时必须进行明确败露。
收罗上充斥着大宗相干的诳骗证明，其中不少东谈主死亡了他们的终身积攒。香港证券及期货事务监察委员会在 5 月份发出了对于波及马斯克的诳骗举止的申饬。本年早些时候，好意思国联邦商业委员会和联邦探问局也申饬好意思国大众，AI 驱动的收罗犯罪和深度伪造诳骗正日益增多。
FBI 在一份电邮声明中强调：“犯罪分子正在诈骗 AI 当作力量的放大器，使收罗抨击和其他犯罪恶为愈加灵验且难以被侦测。”
数字诳骗与互联网的发展同步增长。但跟着旧年复杂的 AI 器具向公众绽放，以马斯克为特征的新一波深度伪造海潮应时而生，这些器具让普通东谈主约略克隆名东谈主声息或精确操控视频，眩惑了色情行业、颜料包制作家和越来越多的诳骗团伙的细心。
收罗安全询查本质室 CTM Insights 的首创东谈主卢・斯坦伯格（Lou Steinberg）指出：“当今的情况正在发生变化，因为有组织的犯罪团伙依然发现，通过这种花样不错赢利。”他瞻望，咱们将看到越来越多的这种假冒企图，方针即是骗钱。”
尽管 AI 生成的视频并不齐全，举例马斯克的声息在一些视频中可能听起来机械化，而且他的口型并不老是与台词不匹配。但大众申饬称，这些视频对于一些诳骗方针来说依然豪阔令东谈主信服，而且跟着时候的推移本事正在束缚改造。
左证 Sensity 的卡沃利的说法，这些视频的制作资本荒谬低，约莫只需 10 好意思元，而且大多数诳骗者使用一系列免费或便宜的器具在不到 10 分钟内对付出假视频。他们主要位于印度、俄罗斯和东欧。
“它灵验，”卡沃利说。“因此，他们将延续扩大这一举止，跳动国界，用多种讲话翻译，并束缚向更多方针传播诳骗。”
老年东谈主成为齐全方针
这类骗局常以高陈诉的东谈主工智能投资软件为幌子，初期诱使受害者插足小额资金 —— 如 250 好意思元。随后，通过夸大投资的升值收尾，缓缓引导他们增多投资金额。
特斯拉鼓动大会的一条视频也被伪造，视频中马斯克诠释了一个由 AI 驱动的自动走动居品，宣称约略每天翻倍投资陈诉。
询查加密货币社区的大众指出，马斯克领有一群独到的全球粉丝群体，这些粉丝多为保守派、反体制东谈主士和加密货币嗜好者，他们时时寻找赚取资产的非传统阶梯，这使得他们成为这些骗局的理思方针。
国产自拍“服气有一群东谈主信赖资产的机要被狡饰了起来，”询查加密货币社区的询查者莫莉・怀特（Molly White）说。她指出，部分东谈主群总幻思掌持资产机要，以为一朝找到便能通宵暴富。
诳骗者尤爱针对年长互联网用户，他们虽对加密货币、东谈主工智能或马斯克有所了解，但不肃穆安全投资花样的年长互联网用户。
“老年东谈主一直是诳骗者眼中的一块肥肉，这一气象甚而早于应对媒体的兴起，”加州大学戴维斯分校的科学本事询查造就芬恩・布伦顿（Finn Brunton）说，他是加密阛阓的大众。
比彻姆是别称鳏夫，曾在加拿大安大略省的一家公司担任销售代表，直到 75 岁退休。2023 年加入 Facebook 后不久，他就碰到了告白诳骗。尽管他谨记曾在 CNN 的直播中看到过马斯克，但 CNN 的一位女发言东谈主默示，马斯克已多年未在该台接纳过采访。
旧年 12 月，比彻姆向一家名为 Magna-FX 的公司汇款 27，216 好意思元，据他和该公司的电子邮件不异自满，Magna-FX 使他信赖他的投资价值在增多。时代，别称销售代理甚而使用软件汉典收尾了比彻姆的电脑，私行滚动资金。
当比彻姆尝试索求资金时，他被见告需要支付 3，500 好意思元的惩处费和另外 3，500 好意思元的佣金。他付了这些钱，但自后又被见告需要支付 20，000 好意思元才智开释约 20 万好意思元的资金部分。尽管他依然用尽了退休储蓄，刷爆了信用卡，动用了信用额度并向妹妹借款投资和支付用度，诳骗者如故条目他支付更多用度。此时，比彻姆已意志到问题的严重性，于是议论了警方。
Magna-FX 的大部分陈迹依然从收罗上灭绝，包括公司网站、电话号码以及比彻姆曾与之不异的代理使用的电子邮件地址。一家称号和行状相似的公司对挑剔央求未作答复。
比彻姆在提交给 Better Business Bureau 的证明中默示：“此刻，我愿接纳整个责备与嘲讽，当作对我方轻信的处分。”
他默示，当前正依靠一个未向诳骗者清楚的较小退休账户及待业金来看守生涯，而他蓝本经营使用这些积攒环游全国。比彻姆依然向当地警方报案，但案件弘扬安宁。
“由于到处齐是诓骗案件，我的案件被放在了队伍中，”他说，“我莫得抱太大但愿。”
告白声明：文内含有的对外跳转纠合（包括不限于超纠合、二维码、口令等形势），用于传递更多信息，省俭甄选时候，收尾仅供参考gay_porn，IT之家整个著述均包含本声明。