Experten haben vor rassistischen Missbrauchsbildern von Grok AI auf der X-Plattform gewarnt

Experten äußerten Bedenken und warnten vor den rassistischen Beleidigungsbildern, die im Dezember mithilfe der KI Grok von X auf der Plattform verbreitet wurden.

Laut Signify – einer Organisation, die mit prominenten Sportgruppen und -vereinen zusammenarbeitet, um Online-Hass tracund zu melden – wird es in Kürze eine Zunahme der Bilder im Internet und auf der Plattform geben.

Nach dem Grok-Update fluteten Missbrauchsbilder X

Laut The Guardiangab es mehrere Berichte über rassistische Bilder, die angeblich nach einem Update von Grok AI erstellt wurden, darunter fotorealistische rassistische Darstellungen von Fußballspielern und -trainern. Auf einem der Bilder ist ein schwarzer Spieler beim Baumwollpflücken zu sehen, auf einem anderen ein Spieler, der Bananen isst und von Affen umringt ist.

Andere Bilder zeigen mehrere andere Spieler und Manager, die sich mit umstrittenen historischen Persönlichkeiten wie Osama Bin Laden, Adolf Hitler und Saddam Hussein treffen und unterhalten.

Signify hat mit Besorgnis den plötzlichen Anstieg computergenerierter Bilder beobachtet, die mithilfe von Grok AI erstellt wurden und die X-Plattform überschwemmt haben. Die Organisation ist über diesen Trend ebenfalls besorgt und befürchtet, dass solche Bilder in den sozialen Medien künftig noch häufiger auftauchen werden, da die Einführung fotorealistischer KI dies erleichtert und die Verbreitung solcher Bilder verstärkt.

„Es ist jetzt schon ein Problem, aber das ist erst der Anfang eines größeren Problems. Es wird noch viel schlimmer werden, und wir stehen erst am Anfang. Ich gehe davon aus, dass es in den nächsten zwölf Monaten extrem ernst werden wird.“

Bedeuten.

Das generative KI-Tool von X wurde 2023 von Elon Musk eingeführt. Kürzlich wurde eine neue Text-zu-Bild-Funktion namens Aurora hinzugefügt, die auf Basis einfacher Benutzereingaben fotorealistische KI-Bilder erstellt.

Eine weniger ausgereifte Version namens Flux sorgte Anfang des Jahres ebenfalls für Kontroversen, da sie laut „The Guardian“ Dinge tat, die viele andere vergleichbare Softwareprogramme nicht tun würden. Dazu gehörte die Darstellung urheberrechtlich geschützter Figuren und Persönlichkeiten des öffentlichen Lebens in kompromittierenden Situationen, beim Drogenkonsum oder bei Gewalttaten.

X hat sich in eine Plattform für Hass verwandelt

Callum Hood, Forschungsleiter des Center for Countering Digital Hate (CCDH), warf der X-Plattform vor, eine Plattform für Hass zu sein. Laut Hood habe sich X zu einer Plattform entwickelt, die die Verbreitung von Hass durch Umsatzbeteiligungen fördere und belohne, und KI-gestützte Bilder machten dies einfacher denn je.

„Was X getan hat, und zwar in einem Ausmaß wie keine andere etablierte Plattform, ist, Konten cash Anreize zu bieten, um dies zu tun, sodass Konten auf X ganz bewusst den unverhohlensten Hass und die größtmögliche Desinformation verbreiten.“

Haube.

Experten äußerten Bedenken hinsichtlich der relativen Uneinigkeit darüber, was Benutzer die generative KI so einfach produzieren lassen können, dass Grok die Richtlinien der KI durch „Jailbreaking“ umgehen kann

Einem Bericht des CCDH zufolge erzeugte das KI-Modell bei der Eingabe verschiedener hasserfüllter Texte 90 % der Inhalte selbst, 30 % davon ohne Gegenwehr. Weitere 50 % entstanden nach einem Jailbreak.

Die Premier League räumte ein, von den Bildern der Fußballspieler gewusst zu haben. Sie erklärte, ein spezielles Team damit beauftragt zu haben, rassistische Beleidigungen gegen Sportler aufzuspüren und zu melden, was gegebenenfalls rechtliche Schritte nach sich ziehen könne.

Dies geschieht vor dem Hintergrund, dass die Fußballverwaltung bekannt gab, im Jahr 2024 über 1.500 Missbrauchsmeldungen erhalten zu haben und dass Filter für die Spieler auf ihren Social-Media-Konten eingeführt wurden, um große Mengen an Beleidigungen auszublenden.

„Diskriminierung hat in unserem Sport und in der Gesellschaft insgesamt keinen Platz. Wir fordern die Social-Media-Unternehmen und die zuständigen Behörden weiterhin dringend auf, gegen Online-Missbrauch vorzugehen und Maßnahmen gegen die Täter dieses inakzeptablen Verhaltens zu ergreifen“, sagte ein Sprecher des englischen Fußballverbands (FA).