Australischer Aktivist enthüllt: Künstliche Intelligenz lässt Morddrohungen sehr realistisch erscheinen

Die australische Aktivistin Caitlin Roper hat enthüllt, dass künstliche Intelligenz (KI) mittlerweile eingesetzt wird, um im Internet äußerst realistische Drohungen und gewalttätige Beschimpfungen auszusprechen. Laut Roper war sie trotz ihrer jahrelangen Tätigkeit als Internetaktivistin von der jüngsten Welle KI-gestützter Drohungen traumatisiert.

Digital generierte Bedrohungen sind seit einigen Jahren möglich, und bis vor Kurzem konnten KI- Modelle echte Personen nur dann imitieren, wenn sie eine starke Online-Präsenz hatten. Laut einem Experten benötigen Modelle nun lediglich ein Profilbild, um beliebige Nutzerwünsche zu erfüllen.

Im Jahr 2023 wurde einem Richter in Florida ein Video zugespielt, das mithilfe eines Anpassungstools im Videospiel Grand Theft Auto erstellt worden war. Das Video zeigte einen Avatar, der dem Richter ähnelte und sich auch so bewegte, während dieser brutal ermordet wurde.

Australischer Aktivist mahnt zur Vorsicht beim Einsatz künstlicher Intelligenz

Laut Roper waren einige der Beiträge, die sie erhielt, Teil einer Hasskampagne gegen sie und ihre Kolleg*innen von Collective Shout, einer australischen Aktivistengruppe auf X und anderen Social-Media-Plattformen. Sie berichtete , dass eines der ihr zugesandten Bilder sie an einem Strick hängend zeigte, während ein anderes Video sie brennend und schreiend darstellte. Andere Beiträge waren noch drastischer; die Nutzer*innen gingen offenbar sehr weit, um ihre Botschaft zu verbreiten.

Roper behauptete, sie trage auf den meisten Bildern und Videos, die mithilfe künstlicher Intelligenz erstellt worden seien, ein blaues Blumenkleid, das ihr tatsächlich gehöre. „Es sind diese seltsamen kleinen Details, die das Ganze realer und irgendwie auch andersartig wirken lassen“, sagte sie. „So etwas kann von Fantasie zu mehr als nur Fantasie werden.“ Sie merkte an, dass die Flut von Online-Beschimpfungen in diesem Sommer nach ihrer Kampagne zur Abschaltung gewalttätiger Videospiele, die Szenen für Erwachsene und Missbrauch verherrlichen, begonnen habe.

Sie erwähnte, dass einige der gegen sie gerichteten Accounts und Bilder entfernt wurden. Roper erwähnte außerdem, dass das Unternehmen behauptete, andere Beiträge, die ihren gewaltsamen Tod darstellten, verstießen nicht gegen die Nutzungsbedingungen der Plattform. Tatsächlich gab sie an, dass X zeitweise einen ihrer Belästiger-Accounts in einer Liste empfohlener Personen zum Folgen aufgeführt hatte. Roper erwähnte, dass einige ihrer Belästiger auch behaupteten, Grok zu nutzen, um herauszufinden, wie man Frauen zu Hause und in Cafés ansprechen kann.

Roper wünscht sich Plattformen, um diese Bedrohung zu bekämpfen

Roper behauptete, sie habe, nachdem sie genug hatte, beschlossen, einige Beispiele zu veröffentlichen. Daraufhin habe X ihr mitgeteilt, dass ihre Accounts gegen die Sicherheitsrichtlinien bezüglich übermäßiger Gewaltdarstellung verstießen, und ihren Account vorübergehend gesperrt.

Inzwischen gibt es weltweit eine Kampagne gegen künstliche Intelligenz (KI), da diese für Betrug missbraucht wird. Kriminelle nutzen die Technologie, um Stimmen realer Personen zu imitieren und sie für ihre zahlreichen illegalen Aktivitäten einzusetzen. Dazu gehört auch die Erstellung von kinderpornografischen Inhalten mithilfe von KI ohne ausdrückliche Einwilligung der Betroffenen.

Neben solchen Inhalten wird berichtet, dass künstliche Intelligenz auch andere Bedrohungen überzeugender macht. So bezeichnet Swatting das Absetzen falscher Notrufe, um einen Großeinsatz von Polizei und Rettungskräften zu provozieren. Im Sommer erklärte die National Association of Attorneys General, die Technologie habe „das Ausmaß, die Präzision und die Anonymität“ solcher Angriffe deutlich verstärkt.

In geringerem Umfang hat die Zunahme von KI-generierten Videos, die vermeintliche Wohnungseinbrüche simulieren, dazu geführt, dass betroffene Bewohner landesweit die Polizei alarmierten. Laut Bericht können die Täter von Swatting diedentdurch Stimmenklonen und Bildmanipulation von falschen Meldungen überzeugen. Ein Serientäter nutzte simulierte Schüsse, um den Eindruck zu erwecken, ein Schütze befinde sich auf dem Parkplatz einer High School im US-Bundesstaat Washington. Das Schulgelände wurde nach dem Eintreffen von Polizei und Bundesbeamten für 20 Minuten abgeriegelt.