Meta erhält Frist im September, während ein US-Senator Verstöße gegen die Online-Sicherheit untersucht

US-Senator Josh Hawley hat angekündigt, die von Meta vertriebenen Produkte zur generativen künstlichen Intelligenz zu untersuchen. Hawley erklärte, er wolle prüfen, ob die Produkte des Unternehmens Kinder ausbeuten, täuschen oder schädigen könnten. Hintergrund sind durchgesickerte interne Dokumente, die nahelegen, dass Chatbots des Unternehmens romantische und anzügliche Gespräche mit Minderjährigen führen durften.

Der US-Senator wandte sich über die Blog-Plattform X an die Öffentlichkeit, um verkünden . „Gibt es irgendetwas – wirklich irgendetwas –, was die großen Technologiekonzerne nicht für schnelles Geld tun würden? Jetzt wissen wir, dass die Chatbots von Meta so programmiert wurden, dass sie explizite und ‚sinnliche‘ Gespräche mit Achtjährigen führen. Das ist widerlich. Ich werde eine umfassende Untersuchung einleiten, um Antworten zu finden. Große Technologiekonzerne: Lasst unsere Kinder in Ruhe!“, schrieb er.

Interne Dokumente deuten auf eine Verwicklung von Meta hin

Diese Entwicklung folgt auf interne Dokumente, die belegen, dass Meta seinen Chatbot-Personas angeblich erlaubt, flirtende Gespräche mit Kindern zu führen, Informationen zu verbreiten und Antworten zu generieren, die Minderheiten herabwürdigen.

Aus den internen Dokumenten, die Reuters einsehen konnte, geht hervor, dass Meta Richtlinien für das Verhalten von KI-Chatbots hatte, die es den KI-Personas erlaubten, „mit einem Kind romantische oder sinnliche Gespräche zu führen“.

In dem Dokument mit dem Titel GenAI: Content Risk Standards wurde erwähnt, dass Chatbots romantische Gespräche mit einem 8-jährigen Kind führen dürften, indem sie sagten: „Jeder Zentimeter von dir ist ein Meisterwerk – ein Schatz, den ich zutiefst schätze.“

jedoch von Meta dementiert und darauf hingewiesen, dass solche Beispiele nicht mit den Richtlinien von Meta vereinbar seien und daher entfernt wurden.

US-Senator plant Untersuchung von Meta

Senator Hawley ist Vorsitzender des Unterausschusses für Kriminalität und Terrorismusbekämpfung des Justizausschusses des Senats. Er erwähnte, dass der Unterausschuss voraussichtlich eine Untersuchung einleiten wird, ob die von Meta entwickelten Technologien Kindern schaden und „ob Meta die Öffentlichkeit oder die Aufsichtsbehörden hinsichtlich seiner Sicherheitsvorkehrungen irregeführt hat“

„Es ist inakzeptabel, dass diese Richtlinien überhaupt vorangetrieben wurden“, schrieb Senator Hawley in einem Brief an Meta-CEO Mark Zuckerberg. Er fügte hinzu, dass Meta die Richtigkeit der Berichte zwar anerkannte, aber „erst nach Bekanntwerden dieser alarmierenden Inhaltetracvornahm“

Er fügte hinzu, dass das Unternehmen ihnen mitteilen müsse, wer die Richtlinien genehmigt habe, wie lange sie in Kraft gewesen seien und was Meta unternommen habe, um dieses Verhalten künftig zu unterbinden.

Senator Hawley forderte Meta außerdem auf, die Richtlinien einschließlich aller Entwürfe, Änderungen und der endgültigen Fassung vorzulegen. Darüber hinaus verlangte er von dem Unternehmen eine Liste aller Produkte, die diesen Standards entsprechen, weitere Sicherheits- unddent sowie diedentder für die Richtlinienänderungen verantwortlichen Personen.

Dem Schreiben zufolge Meta hat

Die Untersuchung wurde auch von anderen Parteien, darunter Senatorin Marsha Blackburn, unterstützt. „Wenn es um den Schutz von Kindern im Internet geht, hat Meta auf ganzer Linie kläglich versagt“, sagte Senatorin Blackburn. „Schlimmer noch: Das Unternehmen hat die verheerenden Folgen der Gestaltung seiner Plattformen ignoriert. Dieser Bericht bekräftigt, warum wir den Kids Online Safety Act verabschieden müssen.“

Diese Entwicklung folgt nur wenige Tage nach einem Reuters-Bericht über einen Rentner, der mit einem Chatbot von Meta, einer flirtenden Frauen-Persona, interagierte. Die Persona überzeugte ihn von ihrer Echtheit und lud ihn zu einer Adresse in New York ein, wo er Opfer einesdent tödlichen KI- Chatbot mit dem Namen „Big Sis Billie“ war eine Variante einer früheren KI-Persona, die der Social-Media-Riese Meta Platforms in Zusammenarbeit mit der Influencerin Kendall Jenner entwickelt hatte.