KI-generierte Influencer fluten Instagram und andere Plattformen mit gestohlenen Identitäten

Ein neuer, KI-bezogener Betrug ist aufgetaucht, bei dem Tausende von KI-generierten Influencern Social-Media-Seiten wie Instagram mit gestohlenen Bildern echter Menschen überschwemmt haben.

Der Betrug umfasst das Stehlen von Videos von echten Models und Adult-Content-Erstellerinnen, das Verleihen von KI-generierten Gesichtern und die Monetarisierung ihrer Körper durch Links zu Dating-Sites wie Patreon, OnlyFans-Wettbewerben und verschiedenen KI-Apps.

KI-generierte Influencer konkurrieren mit Menschen auf Instagram

Im April berichtete 404 Media erstmals über diese Praxis, als sie erstmals auftrat. Die Praxis hat sich nun zu einem beliebten Trend entwickelt, der viele dazu veranlasst hat, anzunehmen, dass die von Meta betriebene Social-Media-Plattform den scheinbaren Trend auf ihrer Plattform entweder nicht stoppen kann oder nicht will.

Dies geschieht, während die menschlichen Content-Ersteller auf Instagram sagen, dass sie nun mit KI-Inhalten konkurrieren, was sich jetzt auf ihre Rentabilität auswirkt.

Mit einigen der Standard-KI-Tools und -Apps, die im Apple App Store und im Google Play Store gehostet werden, können die KI-Influencer ihre Konten jetzt leicht erstellen und monetarisieren. Laut Wired haben sie mehr als 1.000 von KI generierte Instagram-Konten sowie Discord-Kanäle überprüft, in denen die Ersteller dieser Inhalte Tipps austauschen und Strategien diskutieren, sowie mehrere Anleitungen, die erklären, wie man durch „AI-Pimping“ Geld verdient.

Wired stellte fest, dass das Problem, das auf Instagram früher eher geringfügig war, im Einklang mit verschiedenen Vorhersagen über die zukünftige Social-Media-Landschaft, in der KI-generierte Inhalte die menschlicher Inhalte übertreffen, zu einer enormen Praxis angewachsen ist.

Adult-Content-Ersteller, die ihre Arbeit auf Instagram bewerben, machen sich nun Sorgen, direkt mit diesen KI-Raubkopien-Konten zu konkurrieren, von denen viele Fotos und Videos von Adult-Content-Erstellerinnen und Instagram-Models stehlen.

Elaina St James, eine Adult-Content-Erstellerin, sagte, dass es zwar andere Änderungen am Instagram-Algorithmus geben könnte, die dazu beigetragen haben könnten, aber seit der Explosion von KI-generierten Influencer-Konten auf Instagram ist ihre „Reichweite enorm zurückgegangen“, von typischerweise 1 bis 5 Millionen Aufrufen pro Monat. Im letzten Zeitraum von 10 Monaten hat sie die Millionengrenze nicht erreicht, und manchmal lag sie sogar unter 500.000 Aufrufen.

„Das ist wahrscheinlich einer der Gründe, warum meine Aufrufe zurückgehen. Es liegt daran, dass ich gegen etwas konkurriere, das unnatürlich ist.“ St James.

Alexios Mantzarlis, Direktor der Initiative für Sicherheit, Vertrauen und Schutz am Cornell Tech und ehemaliger Principal für Vertrauens- und Schutzintelligenz bei Google, erstellte eine Liste von rund 900 Konten in der 404 Media-Forschung.

Ein Zeichen dafür, wie Social Media in Kürze aussehen wird

Mantzarlis sagte, dies sei nichts völlig Neues oder Überraschendes, da dies einfach früheren Vorhersagen über KI-Technologie und ihre Einführung auf Social-Media-Plattformen entspreche.

„Es fühlte sich an wie ein mögliches Zeichen dafür, wie Social Media in fünf Jahren aussehen wird“, sagte Mantzarlis.

„Denn dies könnte auf andere Teile des Internets übergreifen, nicht nur auf die Nische der attraktiven Menschen auf Instagram. Das ist wahrscheinlich ein Zeichen dafür, dass es ziemlich schlecht werden wird.“

Mantzarlis.

Von mehr als 1.000 KI-generierten Instagram-Influencer-Konten enthielten mindestens 100 Deepfake-Inhalte, die bestehende Videos, meist von Models und Darstellern der Erwachsenenunterhaltung, nahmen und ihre Gesichter durch ein KI-generiertes ersetzten, um den Videos ein frisches Aussehen zu verleihen.

Die Videos werden wie neue, originelle Inhalte aussehen, die mit den anderen von den KI-generierten Influencern geteilten KI-generierten Bildern und Videos übereinstimmen.

Instagram wird auf Beschwerden reagieren

Instagram sagte, dass es nur dann gegen Konten vorgehen werde, wenn sie vom richtigen Inhaber oder einer dazu autorisierten Person gemeldet werden. Viele menschliche Influencer sagen jedoch, dass der bereitgestellte Kanal nicht funktioniert, da sie zu viele Konten von Nachahmern verfolgen müssen.

St James fügte hinzu, dass die Tatsache, dass viele dieser KI-generierten Influencer-Konten von mir betrieben werden, den Stachel noch tiefer sticht.

„Wir Frauen auf der Welt verdienen weniger Geld. Wir sind in vielerlei Hinsicht benachteiligt. Ein Bereich der Welt, in dem wir einen Vorteil haben, ist der der Influencer und des Modelns, also ist es nur eine zusätzliche Schicht“, sagte St James.

„Es macht mich ein bisschen wütend, dass es ein Mann ist, der Geld verdient, indem er vorgibt, eine Frau zu sein“, fügte sie hinzu.

Apple, das bisher gescheitert ist, das „Dual-Use“-Problem von Face-Swapping-Apps zu lösen, die harmlos verwendet werden können, aber oft zur Erstellung nicht einvernehmlicher Inhalte genutzt werden, hat diese aus dem App Store entfernt, nachdem es zu diesem Thema befragt worden war.