Ein neuer KI-bezogener Betrug ist aufgetaucht, bei dem Tausende von KI-generierten Influencern soziale Websites wie Instagram mit gestohlenen Bildern echter Menschen überschwemmt haben.
Der Betrug besteht darin, Videos von echten Models und Erstellern von Inhalten für Erwachsene zu stehlen, ihnen KI-generierte Gesichter zu geben und ihre Körper mit Links zu Dating-Seiten wie Patreon, OnlyFans-Wettbewerben und verschiedenen KI-Apps zu monetarisieren.
KI-generierte Influencer konkurrieren auf Instagram mit Menschen
Im April berichtete 404 Media erstmals über diese Praxis, als sie zum ersten Mal auftauchte. Die Praxis hat sich mittlerweile zu einem beliebten Trend entwickelt, der viele zu der Annahme veranlasst, dass die von Meta betriebenen sozialen Medien entweder nicht in der Lage oder nicht willens sind, den scheinbaren Trend auf ihrer Plattform zu stoppen.
Dies geschieht, weil die Ersteller von menschlichen Inhalten auf Instagram sagen, dass sie jetzt mit KI-Inhalten in einer Weise konkurrieren, die sich nun auf ihre Rentabilität auswirkt.
Mit einigen der handelsüblichen KI-Tools und Apps, die in den Apple App- und Google Play Stores gehostet werden, können die KI-Influencer jetzt ganz einfach ihre Konten erstellen und monetarisieren. Laut Wired haben sie mehr als 1.000 von KI- und Discord-Kanälen erstellte Instagram-Konten überprüft, in denen die Personen, die diese Inhalte erstellen, Tipps austauschen und Strategien sowie mehrere Leitfäden diskutieren, die erklären, wie man durch „KI-Zuhälterei“ Geld verdienen kann.
Wired hat herausgefunden, dass sich das Problem, das früher auf Instagram unbedeutend war, zu einer riesigen Praxis entwickelt hat, was mit mehreren Vorhersagen über die zukünftige Social-Media-Landschaft übereinstimmt, in der KI-generierte Inhalte die von Menschen in den Schatten stellen.
Ersteller von Inhalten für Erwachsene, die ihre Arbeit auf Instagram bewerben, haben nun Angst, direkt mit diesen KI-Abzockerkonten zu konkurrieren, von denen viele Fotos und Videos verwenden, die von Erstellern von Inhalten für Erwachsene und Instagram-Models gestohlen wurden.
Elaina St James, eine Erstellerin von Inhalten für Erwachsene, sagte, dass es zwar möglicherweise andere Änderungen am Instagram-Algorithmus gegeben habe, die dazu beigetragen haben könnten, doch seit der Explosion von KI-generierten Influencer-Konten auf Instagram sei ihre „Reichweite enorm zurückgegangen“, von typisch 1 Million auf 5 Millionen Aufrufe pro Monat. Sie hat in den letzten 10 Monaten keine Million geknackt und kam manchmal auf weniger als 500.000 Aufrufe.
„Das ist wahrscheinlich einer der Gründe, warum meine Ansichten sinken. Das liegt daran, dass ich mit etwas konkurriere, das unnatürlich ist.“ St. Jakobus.
Alexios Mantzarlis, Direktor der Sicherheits-, Vertrauens- und Sicherheitsinitiative bei Cornell Tech und ehemaliger Leiter der Vertrauens- und Sicherheitsintelligenz bei Google, hat in der 404 Media-Studie eine Liste mit rund 900 Konten zusammengestellt.
Mantzarlis sagte, dies sei weder völlig neu noch überraschend, da dies lediglich die Erfüllung zuvor gemachter Vorhersagen zur KI-Technologie und ihrer Einführung auf Social-Media-Plattformen sei.
„Es schien ein mögliches Zeichen dafür zu sein, wie soziale Medien in fünf Jahren aussehen werden“, sagte Mantzarlis.
„Denn dies könnte sich auch auf andere Bereiche des Internets auswirken, nicht nur auf die Nische mittracPersonen auf Instagram. Das ist wahrscheinlich ein Zeichen dafür, dass es ziemlich schlimm werden wird.“
Mantzarlis.
Von den mehr als 1.000 KI-generierten Instagram-Influencer-Konten enthielten mindestens 100 Deepfake-Inhalte, bei denen bestehende Videos, meist von Models und Darstellern der Erwachsenenunterhaltung, übernommen und deren Gesichter durch ein KI-generiertes ersetzt wurden, um den Videos ein frisches Aussehen zu verleihen.
Die Videos werden wie neue Originalinhalte aussehen, die mit den anderen KI-generierten Bildern und Videos übereinstimmen, die vom KI-generierten Influencer geteilt werden.
Instagram wird auf eingehende Beschwerden reagieren
Instagram sagte, dass es nur dann Maßnahmen gegen Konten ergreifen werde, wenn sie vom richtigen Eigentümer oder einer Person gemeldet würden, die dazu befugt sei, in ihrem Namen Meldung zu erstatten. Viele menschliche Influencer sagen jedoch, dass der bereitgestellte Kanal nicht funktioniert hat, da sie zu viele Accounts von Imitatoren haben, denen sie folgen können.
St. James fügte hinzu, dass die Tatsache, dass viele dieser KI-generierten Influencer-Konten von mir betrieben werden, das Ganze noch schlimmer macht.
„Wir Frauen auf der Welt verdienen weniger Geld. Wir sind in vielerlei Hinsicht im Nachteil. Ein Bereich auf der Welt, in dem wir einen Vorteil haben, ist die Influencer- und Model-Sache, es ist also nur eine zusätzliche Ebene“, sagte St James.
„Es macht mich ein bisschen irritiert, dass es ein Mann ist, der Geld verdient, indem er vorgibt, eine Frau zu sein“, fügte sie hinzu.
Apple , dem es bisher nicht gelungen ist, das „Dual-Use“-Problem von Face-Swapping-Apps zu lösen, die harmlos verwendet werden können, aber häufig zur Erstellung nicht einvernehmlicher Inhalte verwendet werden, wurde aus dem App Store entfernt, nachdem es zu dem Problem befragt wurde.
Academy : Kurz DeFi
