OpenAIs virale KI-Karikaturen-Trend sorgt in Kenia für Aufregung angesichts eines Szenarios, das an den Worldcoin-Fall erinnert

OpenAIs ChatGPT-Plattform hat eine virale Social-Media-Sensation ausgelöst, wobei Kenianer ihre persönlichen Daten, einschließlich Selfies, erneut eingeben, Wochen nachdem Sam Altmans Worldcoin alle von kenianischen Bürgern gesammelten biometrischen Daten gelöscht hatte. 

Um eine Karikatur zu generieren, verlässt sich ChatGPT auf aktiv vom Nutzer bereitgestellte Inhalte, wie hochgeladene Bilder, Prompts und beschreibende Informationen. Datenschutzbeauftragte Immaculate Kassait dass jemand eine gefälschte Seite auf GitHub erstellt hatte, die so aussah, als biete sie das beliebte Qwen-KI-Modell zum Download an. Die Seite versprach überzeugend eine vollständig offline KI, die die Benutzerdaten privat halten würde, aber die Falle wurde durch die Dateigröße verraten. Kenianische Bürger, die biometrische Daten frei teilen, trainieren KI-Modelle wie das von OpenAI, ohne dass die Nutzer entschädigt werden.

Kenianer geben ihre Biometrie frei an Altmans Bot

Dieser Trend folgt Kenias Kampf, seine Daten von Worldcoin zu löschen. Worldcoin ist ein kryptobasiertes digitales Identitätsprojekt, das von OpenAI-CEO Sam Altman mitgegründet wurde. Es soll verifizieren, dass Nutzer echte Menschen sind, indem es ihre Iris mit spezialisierter Hardware scannt, im Austausch für eine digitale ID und Krypto-Token.

Worldcoins Operationen in Kenia begannen 2023 mit dem Einsatz seiner signifikanten „Orb“-Geräte, kugelförmiger Scanner, die Iris- und Gesichtsscans von Teilnehmern aufnahmen. Im Austausch wurden den Nutzern 25 kostenlose Worldcoin-Token (Ksh 8.256 zu diesem Zeitpunkt) angeboten. Dieser Anreiz zog große Menschenmengen an, löste aber auch große Bedenken bei Datenschutzaktivisten und Regulierungsbehörden aus.

Kenias regulatorische Gegenwehr war schnell. Im August 2023 suspendierte die Regierung das Projekt aus Angst, die Daten könnten missbraucht oder ohne ausreichende Schutzmaßnahmen ins Ausland übertragen werden. 

Im Mai letzten Jahres urteilte das High Court entschieden dass das Unternehmen hinter Worldcoin gegen das Datenschutzgesetz von 2019 verstoßen hat, indem es sensible persönliche Daten ohne ordnungsgemäße Zustimmung und ohne Durchführung einer obligatorischen Datenschutz-Folgenabschätzung (DPIA) gesammelt hat.

Letzten Monat berichtete Cryptopolitan berichtete dass das Büro des Datenschutzkommissars (ODPC) bestätigt hat, dass alle während der Worldcoin-Anmeldung 2023 gesammelten Iris-Scans und anderen biometrischen Identifikatoren aus den Systemen des Projekts gelöscht wurden.

Mit den neuen KI-Karikaturen wird jedoch genau die Daten erlangt, die gelöscht wurden. Während des Erstellungsprozesses fordert ChatGPT ein klares Selfie, gutes Licht, ein sichtbares Gesicht und keine starken Filter an.

„Ich brauche Ihr tatsächliches Gesicht […] sobald ich es habe, kann ich die richtigen Merkmale übertreiben, die Haltung schärfen und die Realismus genau einstellen“, erklärt der Bot.

Für Frau Kassait ist der Trend der KI-Karikaturen Teil eines Phänomens, das als Überwachungskapitalismus bezeichnet wird. Laut Harvard ist dies eine neue Form des Kapitalismus, die menschliches Verhalten in Daten umwandelt, um sie zu verfolgen, zu analysieren und zu monetarisieren. 

„Was Sie gerade getan haben, ist, Ihre Biometrie zu teilen. In der Zukunft kann jemand, der Analysen durchführt, tatsächlich alles über Sie herausfinden. Sie haben geklickt, ohne zu fragen, was der Zweck ist“, fügte sie hinzu. In diesem Zusammenhang ermutigte sie Nutzer, die Nutzungsbedingungen der Plattform sorgfältig zu lesen, bevor sie Daten teilen. 

OpenAI erweitert Ad-Modell, während finanzielle Spannungen zunehmen

Der Karikaturen-Trend entsteht, während KI-Unternehmen unter finanziellen Druck geraten. OpenAI hat kürzlich Werbung in ChatGPT-Antworten eingeführt und eine günstigere monatliche Go-Stufe für 8 Dollar gestartet, um die Einnahmen zu steigern. 

OpenAI hat etwa 13 Milliarden Dollar an Einnahmen und rund 1,4 Billionen Dollar an Rechenkapazitäts-Verpflichtungen. Das KI-Unternehmen hat in den letzten Monaten eine Reihe von Partnerschaften angekündigt. Darunter sagte Nvidia, es werde 100 Milliarden Dollar investieren, um OpenAI zu unterstützen, während es mindestens 10 Gigawatt an Nvidia-Systemen aufbaut und bereitstellt.

Kürzlich kündigte OpenAI einen 10-Milliarden-Dollar-Deal mit dem Chip-Hersteller Cerebras an, um 750 Megawatt an Cerebras’ KI-Chips einzusetzen. Es hat auch andere Vereinbarungen mit AMD und Broadcom.

Währenddessen prallen Anthropic und OpenAI öffentlich mit ihren Geschäftsstrategien aufeinander, insbesondere regarding die Rolle der Werbung in KI-Produkten. Anthropic hat für hochkarätige Super-Bowl-Werbespots bezahlt, die OpenAIs Schritt, Werbung in ChatGPT zu zeigen, verspotten, mit dem Slogan „Werbung kommt zu KI. Aber nicht zu Claude.“

Anthropic hat 50 Milliarden Dollar in den Bau von Rechenzentren in den USA investiert, wird aber auch Geld ausgeben, um Computer von Spielern wie Microsoft und Google zu kaufen. Laut Anthropic tut es mehr mit weniger als OpenAI.