Künstliche Intelligenz macht Todesdrohungen sehr realistisch, australische Aktivistin enthüllt

Die australische Aktivistin Caitlin Roper hat enthüllt, dass künstliche Intelligenz jetzt eingesetzt wird, um sehr realistische Drohungen und gewalttätigen Missbrauch online zu verbreiten. Laut Roper fand sie sich trotz jahrelanger Arbeit im Internet als Aktivistin durch die jüngste Welle von KI-gestützten Drohungen, die sie erhalten hat, traumatisiert.

Digital generierte Bedrohungen sind seit einigen Jahren möglich, und bis vor kurzem konnten künstliche Intelligenz Modelle echte Menschen nicht replizieren, es sei denn, sie hatten eine große Online-Präsenz. Laut einem Experten benötigen Modelle jetzt nur noch ein Profilbild, um alles zu erstellen, was Nutzer wollen.

Im Jahr 2023 wurde ein Richter in Florida ein Video zugesandt, das mit einem Anpassungstool im Videospiel Grand Theft Auto erstellt wurde. Das Video zeigte einen Avatar, der aussah und ging wie der Richter, der gehackt und zu Tode gebracht wurde.

Australische Aktivistin warnt vor der Nutzung künstlicher Intelligenz

Laut Roper waren einige der Beiträge, die sie erhalten hat, Teil einer Kampagne der Verachtung, die gegen sie und ihre Kollegen bei Collective Shout gerichtet war, einer australischen Aktivistengruppe auf X und anderen Social-Media-Plattformen. Sie bemerkte, dass in einem der ihr gesendeten Bilder ein Bild von ihr zu sehen war, das an einem Strick hing, während ein anderes Video sie in Flammen schreiend zeigte. Andere waren noch grafischer, wobei die Nutzer große Anstrengungen unternahmen, um ihre Botschaft zu übermitteln.

Roper behauptete, dass sie in den meisten der mit künstlicher Intelligenz erstellten Bilder und Videos ein blaues Blumendress trug, das sie tatsächlich besitzt. „Es sind diese seltsamen kleinen Details, die es realistischer wirken lassen und irgendwie eine andere Art von Verletzung darstellen“, sagte sie. „Diese Dinge können von Fantasie zu mehr als Fantasie werden.“ Sie bemerkte, dass die Flut des Online-Missbrauchs diesen Sommer begann, nachdem ihre Kampagne zur Abschaffung von gewalttätigen Videospielen, die erwachsene Szenen und Missbrauch verherrlichen, gestartet wurde.

Sie erwähnte, dass einige der Konten und Bilder, die gegen sie gerichtet waren, entfernt wurden. Roper erwähnte auch, dass das Unternehmen behauptete, andere Beiträge, die ihren gewaltsamen Tod darstellten, verstießen nicht gegen die Nutzungsbedingungen der Plattform. Tatsächlich behauptete sie, dass X zu einem bestimmten Zeitpunkt eines der Konten, die sie belästigen, auf einer Liste empfohlener Personen zum Folgen enthielt. Roper erwähnte, dass einige ihrer Belästiger behaupteten, Grok zu nutzen, um zu recherchieren, wie man Frauen zu Hause und in Cafés findet.

Roper will Plattformen dazu bringen, dieser Bedrohung zu begegnen

Roper behauptete, dass sie, nachdem sie genug davon hatte, einige Beispiele postete. Nachdem sie dies tat, teilte ihr X mit, dass ihre Konten gegen die Sicherheitsrichtlinien gegen unnötige Gewalt verstießen, und sperrte ihr Konto vorübergehend.

Unterdessen gab es eine globale Kampagne gegen künstliche Intelligenz wegen ihrer Nutzung zur Durchführung von Betrug. Kriminelle nutzen die Technologie jetzt, um die Stimmen echter Menschen nachzuahmen, und setzen sie in ihren zahlreichen illegalen Aktivitäten ein. Andere Aktivitäten umfassen die Erstellung von Adult-Content mit künstlicher Intelligenz ohne ausdrückliche Zustimmung der betroffenen Person.

Zusätzlich zu diesen Arten von Inhalten behaupten Berichte, dass künstliche Intelligenz auch andere Drohungen überzeugender macht. Zum Beispiel ist Swatting die Praxis, falsche Notrufe zu platzieren, um eine große Reaktion von Polizei und Rettungskräften auszulösen. Im Sommer erwähnte die National Association of Attorneys General, dass die Technologie „das Ausmaß, die Präzision und die Anonymität“ solcher Angriffe erheblich intensiviert hat.

In geringerem Maße hat eine Zunahme von mit künstlicher Intelligenz erstellten Videos, die angebliche Einbrüche in Häuser zeigen, dazu geführt, dass die betroffenen Bewohner Polizeidepartements im ganzen Land anriefen. Der Bericht behauptet, dass Täter von Swatting die Strafverfolgungsbehörden von falschen Berichten überzeugen können, indem sie Stimmen klonen und Bilder manipulieren. Ein Serienstraftäter simulierte Schusswaffen, um zu suggerieren, dass sich ein Schütze auf dem Parkplatz einer Highschool im Bundesstaat Washington befand. Der Campus wurde für 20 Minuten gesperrt, nachdem Polizei und Bundesbeamte erschienen waren.