人工智能生成的网红利用窃取的dent信息充斥Instagram和其他平台

一种与人工智能相关的新型骗局已经出现，数千名人工智能生成的网红利用窃取的真实人物照片涌入 Instagram 等社交网站。.

这种骗局包括窃取真实模特和成人内容创作者的视频，给它们换上人工智能生成的脸，并通过链接到约会网站（例如 Patreon）、OnlyFans 比赛和各种人工智能应用程序来利用它们的身体牟利。.

人工智能生成的网红在Instagram上与人类网红竞争

今年四月， 404 Media首次报道了 这种现象。如今，这种做法已发展成为一种流行趋势，让许多人认为，由Meta运营的这家社交媒体平台要么无力阻止，要么不愿阻止其平台上的这种趋势。

与此同时，Instagram上的人类内容创作者表示，他们现在正与人工智能内容展开竞争，这正在影响他们的生存。.

借助苹果应用商店和谷歌应用商店中一些现成的AI工具和应用，AI网红们现在可以轻松创建账号并实现盈利。据《连线》杂志报道，他们审查了超过1000个由AI生成的Instagram账号，以及一些Discord频道，这些频道中的内容创作者分享技巧​​、讨论策略，还有一些指南讲解如何通过“AI拉皮条”赚钱。.

Wired 发现，这个问题以前在 Instagram 上只是小问题，但现在已经发展成一种普遍现象，这与一些关于未来社交媒体格局的预测相符，即人工智能生成的内容将超越人类创作的内容。

在 Instagram 上推广作品的成人内容创作者现在担心会直接与这些 AI 盗版账户竞争，其中许多账户使用从成人内容创作者和 Instagram 模特那里窃取的照片和视频。.

伊莱娜·圣詹姆斯 表示，虽然Instagram算法的其他变化可能也对此有所影响，但自从人工智能生成的网红账号在Instagram上爆炸式增长以来，她的“触达率大幅下降”，从通常每月100万到500万的浏览量，到最近10个月都没能突破100万，有时甚至不到50万。

“这大概是我收视率下降的原因之一。因为我是在和一些不自然的东西竞争。”圣詹姆斯。.

康奈尔科技学院安全、信任和安全倡议主管、前谷歌信任和安全情报负责人Alexios Mantzarlis在 404 Media 的研究中编制了一份包含约 900 个帐户的列表。

社交媒体不久的将来可能会呈现出这样的面貌

Mantzarlis表示，这并非什么新鲜事，也并非令人惊讶，这只是印证了之前关于人工智能技术及其在社交媒体平台上的应用所作出的预测。.

曼扎里斯说：“这感觉像是社交媒体五年后发展方向的一种预兆。”.

“因为这种情况可能会蔓延到互联网的其他领域，而不仅仅是Instagram上那些trac出众的人。这或许预示着情况会变得非常糟糕。”

曼扎利斯。.

在超过 1000 个由人工智能生成的 Instagram 影响者帐户中，至少有 100 个包含深度伪造内容，这些内容通常来自模特和成人娱乐表演者，他们利用人工智能生成的脸替换现有视频中的脸，使视频看起来焕然一新。.

这些视频看起来会像全新的原创内容，与人工智能生成的网红分享的其他人工智能生成的图像和视频保持一致。.

Instagram将在收到投诉后采取行动。

Instagram 表示，只有当账号所有者本人或其授权代表举报时，才会采取行动。然而，许多真人网红反映，Instagram提供的举报渠道并不完善，因为他们需要关注的冒充账号太多了。

圣詹姆斯补充说，这些人工智能生成的网红账号中有很多都是由他运营的，这简直是雪上加霜。.

“我们女性在世界上的收入普遍较低。我们在很多方面都处于劣势。但我们在网红和模特领域确实拥有优势，这只是锦上添花而已。”圣詹姆斯说道。.

“这让我有点反感，居然是一个男人假扮女人来赚钱，”她补充道。.

苹果公司至今仍未能解决换脸应用的“双重用途”问题，这些应用可能被无害地使用，但经常被用来创建未经同意的内容。在被问及此问题后，苹果公司已将相关应用从 App Store 中移除。