AI生成的网红泛滥Instagram及其他平台，盗用他人身份

一种新的与AI相关的骗局浮出水面，涉及数千名AI生成的网红，他们使用真实人物的被盗图片涌入Instagram等社交网站。

该骗局包括从真实模特和成人内容创作者那里窃取视频，为其生成AI面孔，并通过链接到约会网站（如Patreon、OnlyFans竞赛和各种AI应用）来变现他们的身体。

AI生成的网红在Instagram上与人类竞争

在4月，404 Media首次报道了这一做法，当时它刚刚出现。如今，这种做法已发展成为一种流行趋势，导致许多人认为Meta运营的社交媒体要么无法阻止，要么不愿阻止其平台上这种明显的趋势。

随着Instagram上的人类内容创作者表示，他们现在正以影响其可行性的方式与AI内容竞争。

借助Apple App和Google Play商店托管的一些现成AI工具和应用程序，AI网红现在可以轻松创建和变现其账户。据Wired报道，他们审查了1000多个由AI生成的Instagram账户，以及Discord频道，人们在那里分享制作此类内容的技巧、讨论策略，以及解释如何通过“AI皮条客”赚钱的几份指南。

Wired发现，这个问题在Instagram上原本并不严重，但随着关于未来社交媒体格局的几项预测（AI生成内容将超越人类内容）的实现，这一问题已发展成为一项巨大的实践。

在Instagram上推广其作品的成人内容创作者现在担心直接与这些AI仿冒账户竞争，其中许多账户使用了从成人内容创作者和Instagram模特那里窃取的 photographs 和视频。

Elaina St James是一位成人内容创作者，她表示，虽然Instagram算法的其他变化可能对此有所贡献，但自从Instagram上AI生成的网红账号爆发以来，她的“曝光量大幅下降”，从每月典型的100万到500万次浏览降至更低。在过去10个月里，她从未达到过百万浏览量，有时甚至低于50万次浏览。

“这可能是我的浏览量下降的原因之一。因为我在与某种不自然的东西竞争。”St James说。

Alexios Mantzarlis是康奈尔科技安全、信任和安全感倡议的主任，曾任Google信任与安全情报主管，他编制了一份包含约900个账户的名单，这些账户出现在404 Media的研究中。

社交媒体未来面貌的一个迹象

Mantzarlis表示，这并非完全新鲜或令人惊讶，这只是实现了此前关于AI技术及其在社交媒体平台上采用的预测。

“这感觉像是社交媒体五年后面貌的一个可能迹象，”Mantzarlis说。

“因为这可能会蔓延到互联网的其他部分，而不仅仅是Instagram上吸引眼球的人群领域。这可能是一个迹象，表明情况会变得相当糟糕。”

Mantzarlis。

在1000多个AI生成的Instagram网红账户中，至少有100个包含深度伪造内容，这些内容取自现有视频（通常来自模特和成人娱乐表演者），并用AI生成的面孔替换他们的脸部，以使视频焕然一新。

这些视频看起来像是新的、原创的内容，与AI生成的网红分享的其他AI生成图像和视频一致。

Instagram将在收到投诉后采取行动

Instagram表示，只有在账户被正确所有者或有权代表其举报的人举报时，才会采取行动。然而，许多人类网红表示，提供的渠道并未奏效，因为他们需要跟踪的冒充者账户太多。

St James补充说，许多这些AI生成的网红账户是由我运营的事实，简直是雪上加霜。

“作为世界上的女性，我们赚的钱更少。我们在很多方面处于劣势。我们拥有优势的一个领域是网红和模特行业，所以这只是一层额外的负担，”St James说。

“这让我有点恼火，因为是一个男人假装成女人来赚钱，”她补充道。

Apple此前未能解决面部交换应用的“双重用途”问题，这些应用既可用于无害目的，也常被用于创建非自愿内容。在就此事接受质询后，Apple将其从App Store中移除。