Eine neue Betrugsmasche im Zusammenhang mit KI ist aufgetaucht, bei der Tausende von KI-generierten Influencern soziale Netzwerke wie Instagram mit gestohlenen Bildern von echten Personen überschwemmt haben.
Der Betrug besteht darin, Videos von echten Models und Erstellern von Inhalten für Erwachsene zu stehlen, ihnen KI-generierte Gesichter zu geben und ihre Körper mit Links zu Dating-Seiten wie Patreon, OnlyFans-Wettbewerben und verschiedenen KI-Apps zu monetarisieren.
KI-generierte Influencer konkurrieren auf Instagram mit Menschen
Im April berichtete 404 Media erstmals über diese Praxis, als sie erstmals auftrat. Mittlerweile hat sie sich zu einem weit verbreiteten Trend entwickelt, der viele zu der Annahme veranlasst, dass das von Meta betriebene soziale Netzwerk entweder nicht in der Lage oder nicht willens ist, diesen Trend auf seiner Plattform zu unterbinden.
Dies geschieht zu einem Zeitpunkt, an dem die menschlichen Content-Ersteller auf Instagram berichten, dass sie nun mit KI-Inhalten konkurrieren, was ihre Überlebensfähigkeit beeinträchtigt.
Dank einiger frei verfügbarer KI-Tools und Apps aus dem Apple App Store und Google Play Store können KI-Influencer ihre Accounts jetzt ganz einfach erstellen und monetarisieren. Laut Wired wurden über 1.000 KI-generierte Instagram-Accounts sowie Discord-Kanäle analysiert, auf denen die Content-Ersteller Tipps und Strategien austauschen. Außerdem gibt es diverse Anleitungen, die erklären, wie man mit KI-gestütztem Marketing Geld verdienen kann.
Wired fand heraus, dass das Problem, das auf Instagram früher nur eine untergeordnete Rolle spielte, sich zu einer weit verbreiteten Praxis entwickelt hat, ganz im Sinne einiger Vorhersagen über die zukünftige Social-Media-Landschaft, in der KI-generierte Inhalte die von Menschen erstellten Inhalte in den Schatten stellen.
Ersteller von Erwachseneninhalten, die ihre Werke auf Instagram bewerben, befürchten nun, in direkten Wettbewerb mit diesen KI-gestützten Plagiatskonten zu treten, von denen viele Fotos und Videos verwenden, die von Erstellern von Erwachseneninhalten und Instagram-Models gestohlen wurden.
Elaina St. James, eine Content-Creatorin für Erwachsene, erklärte, dass zwar auch andere Änderungen am Instagram-Algorithmus dazu beigetragen haben könnten, ihre Reichweite aber seit dem explosionsartigen Anstieg KI-generierter Influencer-Accounts auf Instagram „enorm gesunken“ sei – von üblicherweise 1 bis 5 Millionen Aufrufen pro Monat. In den letzten zehn Monaten habe sie die Millionengrenze nicht mehr geknackt und liege teilweise sogar unter 500.000 Aufrufen.
„Das ist wahrscheinlich einer der Gründe, warum meine Aufrufe sinken. Es liegt daran, dass ich mit etwas Unnatürlichem konkurriere.“ St. James.
Alexios Mantzarlis, Direktor der Initiative für Sicherheit, Vertrauen und Schutz bei Cornell Tech und ehemaliger Leiter der Abteilung für Vertrauens- und Sicherheitsinformationen bei Google, hat im Rahmen der Studie von 404 Media eine Liste von rund 900 Konten zusammengestellt.
Mantzarlis sagte, dies sei nichts völlig Neues oder Überraschendes, sondern lediglich die Erfüllung früherer Vorhersagen hinsichtlich der KI-Technologie und ihrer Verbreitung auf Social-Media-Plattformen.
„Es fühlte sich an wie ein mögliches Vorzeichen dafür, wie soziale Medien in fünf Jahren aussehen könnten“, sagte Mantzarlis.
„Denn das könnte sich auch auf andere Bereiche des Internets ausweiten, nicht nur auf die Nische dertracMenschen auf Instagram. Das ist wahrscheinlich ein Zeichen dafür, dass es ziemlich schlimm werden wird.“
Mantzarlis.
Von mehr als 1.000 KI-generierten Instagram-Influencer-Accounts enthielten mindestens 100 Deepfake-Inhalte. Dabei wurden bestehende Videos, in der Regel von Models und Darstellern aus der Erwachsenenunterhaltung, verwendet und deren Gesichter durch KI-generierte Gesichter ersetzt, um den Videos ein neues Aussehen zu verleihen.
Die Videos werden wie neue, originelle Inhalte aussehen und zu den anderen KI-generierten Bildern und Videos passen, die vom KI-generierten Influencer geteilt werden.
Instagram wird auf Beschwerden reagieren
Instagram erklärte, man werde nur dann gegen Konten vorgehen, wenn diese vom rechtmäßigen Inhaber oder einer dazu bevollmächtigten Person gemeldet würden. Viele Influencer berichten jedoch, dass der bereitgestellte Kanal nicht funktioniere, da sie zu vielen gefälschten Konten folgen müssten.
St James fügte hinzu, dass die Tatsache, dass viele dieser KI-generierten Influencer-Accounts von mir betrieben werden, die Sache noch schlimmer mache.
„Wir Frauen verdienen weltweit weniger Geld. Wir sind in vielerlei Hinsicht benachteiligt. Ein Bereich, in dem wir jedoch einen Vorteil haben, ist die Influencer- und Modelbranche, das ist also nur ein zusätzlicher Aspekt“, sagte St. James.
„Es irritiert mich irgendwie, dass ein Mann Geld damit verdient, sich als Frau auszugeben“, fügte sie hinzu.
Apple, dem es bisher nicht gelungen ist, das Problem der „Doppelnutzung“ von Gesichtstausch-Apps zu lösen, die zwar harmlos verwendet werden können, aber häufig zur Erstellung nicht einvernehmlicher Inhalte missbraucht werden, hat die App nach einer entsprechenden Anfrage aus dem App Store entfernt.
