Australischer Premierminister kritisiert X wegen der Nutzung von Grok zur Erstellung anstößiger Inhalte

Der australische Premierminister Anthony Albanese hat die Blogging-Plattform X wegen des Einsatzes des KI-Chatbots Grok zur Erstellung unangemessener Bilder scharf kritisiert. Albanese äußerte seine Empörung über die Bedenken hinsichtlich des Einsatzes von Grok, einem Chatbot mit künstlicher Intelligenz, der ausbeuterische sexuelle Inhalte ermöglicht.

Obwohl die Anzahl der beim australischen eSafety Office eingegangenen Meldungen weiterhin gering ist, verzeichnet die Behörde einen jüngsten Anstieg vondentim Zusammenhang mit der Nutzung von Chatbots zur Erstellung sexualisierter oder ausbeuterischer Bilder. In ihrer Stellungnahme warnte die Aufsichtsbehörde, dass sie ihre Befugnisse, einschließlich der Anordnung von Löschungen, nutzen werde, sobald die mit dem Chatbot erstellten Inhalte die im australischen Online-Sicherheitsgesetz defiKriterien erfüllen.

Laut dem eSafety Office unterliegen die Plattform, ihr Chatbot und zahlreiche weitere Dienste den Sicherheitsverpflichtungen zur Erkennung und Entfernung von kinderpornografischem Material und anderen rechtswidrigen Inhalten gemäß Australiens weltweit führendem Branchenkodex und den entsprechenden Standards. Der australische Premierminister äußerte am Samstag seine Unzufriedenheit und schloss sich damit anderen Staats- und Regierungschefs, darunter seinem britischen Amtskollegen Keir Starmer, in der Kritik an der Social-Media-Plattform an.

Australischer Premierminister kritisiert X wegen Missbrauchs von Grok

„Der Einsatz generativer KI zur Ausbeutung oder Sexualisierung von Menschen ohne deren Einwilligung ist abscheulich“, sagte er Reportern in Canberra. „Die Tatsache, dass dieses Tool genutzt wurde, um über Grok Bilder zu erstellen, ist meiner Meinung nach absolut widerwärtig“, fügte Der Vorfalldent ein weiteres Beispiel dafür, dass soziale Medien ihrer sozialen Verantwortung nicht gerecht würden, und betonte, dass die Australier und die Weltbevölkerung Besseres verdienten.

Ihre Kritik ist durchaus berechtigt und Teil einer weltweiten Kritikwelle gegen den Grok-Chatbot in dieser Woche. Diese hat X dazu veranlasst, die Nutzung seiner KI zur Bildbearbeitung einzuschränken und das Tool zahlenden Abonnenten vorzubehalten. Am Freitag lehnte Grok Anfragen von Nicht-Abonnenten nach digital bearbeiteten Bildern ab. „Bildgenerierung und -bearbeitung sind derzeit auf zahlende Abonnenten beschränkt. Sie können ein Abonnement abschließen, um diese Funktionen freizuschalten“, hieß es im Chatbot.

In einer Stellungnahme des eSafety Office hieß es, die meisten eingegangenen Beschwerden bezögen sich auf die Manipulation von Bildern Erwachsener, während ein kleiner Teil potenziell kinderpornografisches Material betraf. „Die Meldungen über bildbasierten Missbrauch gingen erst kürzlich ein und werden noch geprüft“, so die Behörde. „Die Meldungen über illegale und eingeschränkte Inhalte erfüllten nicht die Kriterien für kinderpornografisches Material der Klasse 1.“

Infolgedessen lehnte das eSafety Office die Ausstellung von Löschungsanordnungen und die Einleitung von Durchsetzungsmaßnahmen in Bezug auf diese Beschwerden ab. Der Sprecher wies jedoch darauf hin, dass die Besorgnis über den zunehmenden Einsatz von KI zur Ausbeutung von Kindern weiterhin bestehe. „Dies unterstreicht die Bedeutung von ‚Safety by Design‘, einschließlich der Notwendigkeit, dass generative KI-Produkte in jeder Phase ihres Lebenszyklus über angemessene Schutzmechanismen und Sicherheitsvorkehrungen verfügen, um den Missbrauch und die Instrumentalisierung dieser Technologien zu verhindern, bevor Schaden entsteht“, hieß es.

Indonesien verbietet Grok vorübergehend wegen Deepfake

Indonesien hat hingegen entschieden gegen den Chatbot Grok vorgegangen. Das Ministerium für Kommunikation und Digitales gab diesen Schritt am Samstag bekannt und begründete ihn mit der dringenden Notwendigkeit, Kinder und Frauen vor den Gefahren KI-generierter expliziter Inhalte zu schützen. „Die Regierung betrachtet nicht einvernehmliche sexuelle Deepfakes als schwerwiegende Verletzung der Menschenrechte, der Würde und der Sicherheit der Bürger im digitalen Raum“, erklärte Minister Meutya Hafid in einer offiziellen Stellungnahme.

Sie behauptete, der Missbrauch von KI zur Erstellung gefälschter Pornografie stelle eine Form digitaler Gewalt dar. Indonesien fordert von den digitalen Plattformen im Land den Nachweis, dass sie über Schutzmaßnahmen verfügen, um die Erstellung und Verbreitung verbotener Inhalte zu verhindern. Im Zuge dieser Durchsetzung hat das Ministerium X (ehemals Twitter) vorgeladen. Das Unternehmen wird Stellung nehmen und die Maßnahmen erläutern, die es zur Eindämmung dieser Bedrohung ergriffen hat.