Irland äußert Bedenken wegen der Missnutzung von Grok auf X

Irland hat Bedenken wegen der Missnutzung des KI-Chatbots Grok auf der Blogging-Plattform X geäußert. Berichten zufolge wurde die Unzufriedenheit bei einem kürzlich im Land abgehaltenen Treffen mit den Führungskräften des Unternehmens vorgetragen. Dies reiht Irland sich in eine lange Liste von Ländern ein, die sich über die Auswirkungen der Handlungen des Chatbots Sorgen machen.

In den letzten Wochen haben Länder und ihre Führer die Plattform, ihren Besitzer Elon Musk und ihren Chatbot Grok kritisiert. Dies liegt daran, dass einige Nutzer den Chatbot nun nutzen, um sexualisierte Bilder von Frauen und Kindern zu generieren. Während einige Länder mit rechtlichen Sanktionen gedroht haben, haben andere die Plattform aufgefordert, Maßnahmen zu ergreifen, um Kinder und Frauen vor digitalem Missbrauch zu schützen.

Irland fordert von X Korrekturmaßnahmen

In der Sitzung lobte die Ministerin für künstliche Intelligenz, Niamh Smyth die Korrekturmaßnahmen, die das Unternehmen ergriffen habe, um die Bedrohung einzudämmen. Dies geschah, nachdem die Führungskräfte ihr mitgeteilt hatten, dass Grok deaktiviert wurde, um Kleidung von Personen weltweit zu entfernen oder zu reduzieren. Die neue Entwicklung folgte darauf, dass die Plattform bestätigte, die Fähigkeit von X- und Grok-Nutzern, Bilder von Personen in knapper Kleidung zu erstellen, durch „Geoblocking“ einzuschränken.

In seiner Erklärung erwähnte die Plattform, dass diese Anfragen nur in Regionen eingestellt werden, in denen die Handlungen als illegal eingestuft wurden. Während des Treffens äußerte die irische KI-Ministerin ihre Besorgnis darüber, dass nicht einvernehmliche intime Bilder und Materialien zur sexuellen Ausbeutung von Kindern auf der öffentlichen Plattform erstellt und veröffentlicht wurden. Sie sagte den Unternehmensführern, dass die Raffinesse der Schutzmaßnahmen der Raffinesse der Technologie entsprechen müsse.

Smyth wies jedoch darauf hin, dass ihre Bedenken gegenüber Grok als eigenständige Anwendung weiterhin bestehen, und betonte, dass die irische Regierung dies weiter untersuchen muss. Sie fügte hinzu, dass sie die Situation weiterhin genau beobachten wird. Niamh fügte hinzu, dass sie in Zukunft ein persönliches Follow-up-Treffen mit Führungskräften von X abhalten wird, um sicherzustellen, dass angemessene und dauerhafte Schutzmaßnahmen gegen die Technologie aufrechterhalten bleiben.

Länder kritisieren weiterhin X und seinen Grok-Chatbot

Die erneute Kritik erfolgte, nachdem die Plattform angeblich versäumt hatte, die Entstehung dieser Bedrohung einzudämmen, obwohl sie zugesagt hatte, die Erzeugung einzustellen und Nutzer, die sie generieren, zu sperren. Während dieses Zeitraums vermerkte der britische Kommunikationsaufseher Ofcom, dass es dringend Kontakt mit X und xAI aufgenommen hatte, um zu verstehen, was diese tun, um ihren gesetzlichen Pflichten zum Schutz der Nutzer im Vereinigten Königreich nachzukommen. Die Aufsichtsbehörde erklärte damals, sie werde bewerten, ob eine Untersuchung notwendig ist.

Nach seiner Erklärung kündigte die Regierung Indonesiens an, dass sie entscheidende Maßnahmen in Bezug auf den Chatbot ergriffen habe. Das Land erklärte, dass der Chatbot vorübergehend weiterhin verboten bleiben werde, da es notwendig sei, Frauen und Kinder vor den Gefahren von KI-generierten expliziten Inhalten zu schützen. „Die Regierung betrachtet nicht einvernehmliche sexuelle Deepfakes als schwerwiegenden Verstoß gegen die Menschenrechte, die Würde und die Sicherheit der Bürger im digitalen Raum“, hieß es in der Erklärung des Landes.

Die Entwicklung folgte darauf, dass der australische Premierminister Anthony Albanese seine volle Unterstützung für Länder aussprach, die die Plattform kritisieren, und sie dazu aufforderte, das Richtige zum Schutz ihrer schutzbedürftigen Nutzer zu tun. Das australische eSafety Office gab an, dass die Zahl der eingegangenen Meldungen relativ gering war; es wurde jedoch vermerkt, dass die Anzahl der Meldungen im Zusammenhang mit dem Vorfall im Vergleich zu den Vorjahren gestiegen ist. Die Aufsichtsbehörde versprach, ihre Befugnisse gemäß dem Australian Online Safety Act zu nutzen, um diese Inhalte zu entfernen.