Deepfake技术利用Midjourney 5.1和OpenAI的DALL-E 2等平台 然而，美国联邦调查局（FBI）近日发出警告，称犯罪分子正在利用 Deepfakes 针对受害者进行勒索。
FBI 警告公众谨防敲诈勒索骗局
据联邦调查局称，它已收到受害者的报告，其中包括未成年人和未经同意的成年人，他们的照片或视频被操纵以创建露骨内容。 在周一发布的公共服务公告（PSA）警报中，该机构强调了在线勒索案件日益普遍，特别是那些涉及利用深度伪造的“性勒索诈骗”的案件。 仅去年一年，执法机构就收到了 7,000 多份有关针对未成年人的网络勒索的报告，自 4 月份以来，与深度造假相关的dent有所增加。
Deepfake 是通过人工智能生成的伪造音频或视频内容，通常很难辨别材料的真实性。 Midjourney 5.1 和 OpenAI 的 DALL-E 2 等平台的兴起促进了 Deepfake 技术的复杂性和可访问性。 不幸的是，这也使得恶意行为者能够利用该技术达到非法目的。
该机构强调了与使用该技术相关的风险
联邦调查局 (FBI) 发出警告是在几起凸显深度造假潜在危险的dent发生之后发出的。 例如，一段以特斯拉和推特首席执行官埃隆·马斯克为主角的深度伪造视频被广泛传播，以欺骗加密货币投资者。 这段经过篡改的视频利用了马斯克之前采访的片段，并经过巧妙编辑以适应骗局的叙述。
值得注意的是，并非所有深度伪造都是恶意的。 一些深度假货因其幽默或创意元素而受到关注，例如一段描绘教皇弗朗西斯穿着白色巴黎世家夹克的视频 此外，人工智能生成的深度伪造品已被用来以数字方式重建已故个体，旨在使他们在各种环境下复活。
为了应对这些威胁，联邦调查局 (FBI) 提供了防范与深度伪造相关的勒索的建议。 他们建议不要支付任何赎金，因为这并不能保证犯罪分子不会发布深度伪造内容。 该机构还强调在网上共享个人信息和内容时要谨慎行事的重要性，建议使用隐私功能来限制对帐户的访问。 联邦调查局建议采取进一步措施，包括监控儿童的在线活动、对过去熟人的异常行为保持警惕以及经常在网上搜索个人和家庭成员信息。
