Irland äußert Bedenken hinsichtlich des Missbrauchs von Grok auf X

Irland hat Bedenken hinsichtlich des Missbrauchs des KI-Chatbots Grok auf der Blogging-Plattform X geäußert. Berichten zufolge wurde diese Unzufriedenheit bei einem kürzlich in Irland abgehaltenen Treffen mit Führungskräften des Unternehmens zum Ausdruck gebracht. Damit reiht sich Irland in eine lange Liste von Ländern ein, die sich über die Auswirkungen des Chatbot-Verhaltens Sorgen machen.

In den letzten Wochen haben Länder und ihre Staatschefs die Plattform, ihren Eigentümer Elon Musk und ihren Chatbot Grok scharf kritisiert. Grund dafür ist, dass einige Nutzer den Chatbot missbrauchen, um sexualisierte Bilder von Frauen und Kindern zu erstellen. Während einige Länder mit gedroht , forderten andere die Plattform auf, Maßnahmen zum Schutz von Kindern und Frauen vor digitalem Missbrauch zu ergreifen.

Irland fordert von X Korrekturmaßnahmen

Bei dem Treffen lobte , die vom Unternehmen ergriffenen Korrekturmaßnahmen zur Eindämmung des Problems. Zuvor hatten ihr Führungskräfte mitgeteilt, dass die Plattform Grok weltweit daran gehindert wurde, die Kleidung von Personen zu entfernen oder zu reduzieren. Diese Entwicklung folgte auf die Bestätigung der Plattform, dass sie die Möglichkeit von X- und Grok-Nutzern, Bilder von Personen in knapper Bekleidung zu erstellen, per Geoblocking einschränken wird.

In ihrer Stellungnahme erklärte die Plattform, dass diese Anfragen nur in Regionen gestoppt würden, in denen die Handlungen als illegal eingestuft wurden. Während des Treffens äußerte die irische Ministerin für Künstliche Intelligenz ihre Besorgnis darüber, dass nicht einvernehmliche intime Bilder und Material mit Kindesmissbrauchsdarstellungen erstellt und auf der öffentlichen Plattform veröffentlicht würden. Sie forderte die Unternehmensleitung auf, dass die Sicherheitsvorkehrungen dem technologischen Fortschritt entsprechen müssten.

Smyth merkte jedoch an, dass ihre Bedenken hinsichtlich Grok als eigenständiger Anwendung weiterhin bestünden und die irische Regierung diese weiter prüfen müsse. Sie fügte hinzu, dass sie die Situation weiterhin genau beobachten werde. Niamh ergänzte, dass sie in Zukunft ein persönliches Folgetreffen mit Führungskräften von X abhalten werde, um sicherzustellen, dass angemessene und dauerhafte Schutzmaßnahmen gegen die Technologie bestehen bleiben.

Länder kritisieren weiterhin X und seinen Grok-Chatbot

Die erneute Kritik folgt auf den Vorwurf, die Verbreitung dieser Bedrohung nicht eingedämmt zu haben, obwohl die Plattform zugesagt hatte, Nutzer, die solche Inhalte erzeugen, zu stoppen und zu sperren. Die britische Kommunikationsaufsichtsbehörde Ofcom gab in diesem Zeitraum an, dringend Kontakt mit X und xAI aufgenommen zu haben, um zu erfahren, welche Maßnahmen diese ergreifen, um ihren gesetzlichen Pflichten zum Schutz der Nutzer in Großbritannien nachzukommen. Die Behörde erklärte damals, sie werde prüfen, ob eine Untersuchung erforderlich sei.

Nach ihrer Stellungnahme gab die indonesische Regierung bekannt, dass sie entschiedene Maßnahmen gegen den Chatbot ergriffen habe. Das Land erklärte, der Chatbot bleibe vorerst verboten, um Frauen und Kinder vor den Gefahren KI-generierter expliziter Inhalte zu schützen. „Die Regierung betrachtet nicht einvernehmliche sexuelle Deepfakes als schwerwiegende Verletzung der Menschenrechte, der Würde und der Sicherheit der Bürger im digitalen Raum“, so das Land.

Diese Entwicklung erfolgte, nachdem der australische Premierminister Anthony Albanese sich hinter die Länder gestellt hatte, die die Plattform kritisierten, und sie aufgefordert hatte, im Sinne des Schutzes ihrer gefährdeten Nutzer das Richtige zu tun. Das australische eSafety Office gab an, dass die Anzahl der eingegangenen Meldungen relativ gering sei; es stellte jedoch einen Anstieg der Meldungen im Zusammenhang mit dem Vorfalldent Befugnisse zu nutzen, defiim australischen Online-Sicherheitsgesetz