Meta erhält September-Frist, da US-Senator Verstoß gegen Online-Sicherheit untersucht

Der US-Senator Josh Hawley hat seine Absicht bekannt gegeben, die von Meta veröffentlichten generativen KI-Produkte zu untersuchen. Hawley sagte, er beabsichtige zu prüfen, ob die Produkte des Unternehmens Kinder ausnutzen, täuschen oder schädigen könnten, nachdem interne Dokumente in die Öffentlichkeit gelangt waren, die besagten, dass seine Chatbots romantische und sinnliche Chats mit Minderjährigen führen durften.

Der US-Senator nutzte die Blogging-Plattform X, um seine Absicht bekannt zu geben. „Gibt es etwas – IRIGENDEIN Ding – was Big Tech nicht für einen schnellen Profit tun würde? Jetzt erfahren wir, dass Meta-Chatbots so programmiert waren, dass sie explizite und ‚sinnliche‘ Gespräche mit 8-Jährigen führten. Es ist krank. Ich starte eine vollständige Untersuchung, um Antworten zu bekommen. Big Tech: Lasst unsere Kinder in Ruhe“, sagte er.

Interne Dokumente belasten Meta

Diese Entwicklung kommt nach internen Dokumenten, die zeigen, dass Meta angeblich erlaubt, dass seine Chatbot-Personas flirtende Austausche mit Kindern führen, Informationen verbreiten und Antworten generieren, die Minderheiten herabsetzen.

Die internen Dokumente, die von Reuters gesehen wurden, sagten, Meta habe Richtlinien zum Verhalten von KI-Chatbots, die es seinen KI-Personen erlaubten, „ein Kind in romantische oder sinnliche Gespräche einzubeziehen.“

Das Dokument mit dem Titel „GenAI: Content Risk Standards“ erwähnte, dass Chatbots erlaubt war, romantische Gespräche mit einem 8-Jährigen zu führen, wobei sie sagten: „Jeder Zentimeter von dir ist ein Meisterwerk – ein Schatz, den ich zutiefst schätze.“

Ein Meta-Sprecher hat dies jedoch widerlegt und darauf hingewiesen, dass solche Beispiele nicht mit Metas Richtlinien übereinstimmen und seitdem entfernt wurden.

US-Senator plant Untersuchung von Meta

Senator Hawley ist der Vorsitzende des Unterausschusses für Kriminalität und Terrorismusbekämpfung des Senatsjustizausschusses. Er erwähnte, dass der Unterausschuss voraussichtlich eine Untersuchung darüber beginnen wird, ob die von Meta entwickelten Technologien Kinder schädigen und „ob Meta die Öffentlichkeit oder Regulierungsbehörden über seine Schutzmaßnahmen getäuscht hat.“

„Es ist inakzeptabel, dass diese Richtlinien überhaupt durchgesetzt wurden“, schrieb Senator Hawley in einem Brief an Meta-CEO Mark Zuckerberg, in dem er sagte, dass Meta die Richtigkeit der Berichte anerkannt und „Rückzüge nur nach dem Aufkommen dieses alarmierenden Inhalts gemacht habe.“

Er fügte hinzu, dass das Unternehmen ihnen mitteilen müsse, wer die Richtlinien genehmigt habe, wie lange sie in Kraft waren und was Meta unternommen habe, um dieses Verhalten in Zukunft zu stoppen.

Senator Hawley bat Meta auch, die Richtlinien vorzulegen, einschließlich jeder Entwurfs-, Durchstreichungs- und Endversion. Darüber hinaus bat er das Unternehmen, eine Liste aller Produkte bereitzustellen, die diesen Standards entsprechen, andere Sicherheits- und Vorfallberichte sowie die Identitäten der Personen, die für die Änderung der Richtlinien verantwortlich waren.

Laut dem Brief hat Meta bis zum 19. September Zeit, die Informationen bereitzustellen.

Die Untersuchung wurde auch von anderen Parteien unterstützt, darunter Senator Marsha Blackburn. „Wenn es darum geht, kostbare Kinder online zu schützen, hat Meta bei jedem möglichen Maßstab miserabel versagt“, sagte Senator Blackburn. „Noch schlimmer ist, dass das Unternehmen ein Auge zudrückte gegenüber den verheerenden Folgen der Art und Weise, wie seine Plattformen gestaltet sind. Dieser Bericht unterstreicht erneut, warum wir den Kids Online Safety Act verabschieden müssen.“

Diese Entwicklung kommt wenige Tage nach der Veröffentlichung eines Berichts von Reuters über einen Rentner, der mit einem der Chatbots von Meta interagierte, einer flirtenden Frauen-Persona. Die Persona überzeugte ihn, dass sie echt war, und lud ihn ein, eine Adresse in New York zu besuchen, wo er Opfer eines Unfalls wurde, der zu seinem Tod führte. Der künstliche Intelligenz-Chatbot namens „Big sis Billie“ war eine Variante einer früheren KI-Persona, die vom riesigen Social-Media-Unternehmen Meta Platforms in Zusammenarbeit mit der Promi-Influencerin Kendall Jenner erstellt wurde.