Stanford-Bericht deckt Kinderpornografie in KI-Trainingsdaten auf

Das Stanford Internet Observatory hat eine beunruhigende Entdeckung gemacht: Über 1.000 gefälschte Bilder von sexuellem Kindesmissbrauch befinden sich in LAION-5B, einem Datensatz, der zum Trainieren von KI-Bildgeneratoren verwendet wird. Dieser im April veröffentlichte Befund hat ernsthafte Bedenken hinsichtlich der Quellen und Methoden zur Zusammenstellung von KI-Trainingsmaterialien aufgeworfen.

LAION-5B, ein System des in London ansässigen KI-Bildgenerators Stable Diffusion AI von Stability AI, sammelte diese Bilder durch das Sammeln von Inhalten aus sozialen Medien und pornografischen Webseiten. Die Entdeckung solcher Inhalte in KI-Trainingsmaterialien ist angesichts der weitverbreiteten Nutzung und des potenziellen Einflusses dieser Plattformen alarmierend.

Die Herausforderung mit Technologie bewältigen

Die Forscher der Stanford University haben bei ihrer Suchedentdiesen Bildern die missbräuchlichen Inhalte nicht direkt angesehen. Stattdessen nutzten sie Microsofts PhotoDNA-Technologie, ein Tool zur Erkennung von Kinderpornografie, das gehashte Bilder mit bekannten missbräuchlichen Inhalten aus verschiedenen Datenbanken abgleicht.

Die Ergebnisse des Stanford-Teams, die relevanten gemeinnützigen Organisationen in den USA und Kanada mitgeteilt wurden, unterstreichen die dringende Notwendigkeit strengerer Maßnahmen bei der Kuratierung von KI-Trainingsdatensätzen. Die Forschenden schlagen vor, für zukünftige Datensatzzusammenstellungen Tools wie PhotoDNA zu verwenden, um schädliche Inhalte herauszufiltern. Sie heben jedoch auch die Herausforderungen bei der Bereinigung offener Datensätze hervor, insbesondere in Ermangelung einer zentralen Hosting-Instanz.

Als Reaktion auf den Bericht entfernte LAION (Large-scale Artificial Intelligence Open Network) vorübergehend seine Datensätze, um deren Sicherheit vor der Wiederveröffentlichung zu gewährleisten. LAION betonte seine Null-Toleranz-Politik gegenüber illegalen Inhalten und die Notwendigkeit, im Umgang mit solch sensiblen Daten äußerste Vorsicht walten zu lassen.

Die weiterreichenden Implikationen und Reaktionen

Dieses Problem beschränkt sich nicht auf den vorliegenden Datensatz. Der Stanford-Bericht legt nahe, dass bereits wenige missbräuchliche Bilder KI-Tools erheblich beeinträchtigen und ihnen ermöglichen, Tausende von Deepfakes zu generieren. Dies stellt eine globale Bedrohung für junge Menschen und Kinder dar, da es den Missbrauch realer Opfer nicht nur fortsetzt, sondern auch verstärkt.

Die überstürzte Markteinführung vieler generativer KI-Projekte wurde kritisiert. Experten wie David Thiel, Chief Technologist des Stanford Internet Observatory, plädieren für eine sorgfältigere Datenerfassung. Thiel betont, dass derart umfassendes Web-Scraping auf Forschungszwecke beschränkt und nicht ohne gründliche Prüfung als Open Source veröffentlicht werden sollte.

Angesichts dieser Erkenntnisse hat Stability AI, ein bedeutender Nutzer des LAION-Datensatzes, Maßnahmen ergriffen, um Missbrauchsrisiken zu minimieren. Neuere Versionen des Stable-Diffusion-Modells wurden entwickelt, um die Erstellung schädlicher Inhalte zu erschweren. Eine ältere, im letzten Jahr veröffentlichte Version birgt jedoch weiterhin Risiken und wird in anderen Anwendungen häufig eingesetzt.

Die internationalen Reaktionen auf dieses Thema sind unterschiedlich. In den USA gründet die Regierung ein Institut für KI-Sicherheit, um die Risiken von KI-Modellen zu bewerten. Auch Australien implementiert neue Algorithmen, um die Verbreitung von KI-generiertem Material mit sexuellem Kindesmissbrauch zu verhindern. In Großbritannien haben führende KI-Entwickler zugestimmt, mit Regierungen zusammenzuarbeiten und neue Modelle vor ihrer Veröffentlichung zu testen.

Auf dem globalen KI-Sicherheitsgipfel in Großbritannien wurde die „Bletchley-Erklärung“ von über 25 Ländern, darunter den Vereinigten Staaten und Indien sowie der Europäischen Union, unterzeichnet. Dieses Abkommen zielt darauf ab, einen gemeinsamen Ansatz für die KI-Aufsicht zu etablieren und unterstreicht das Engagement der internationalen Gemeinschaft für einen verantwortungsvollen Umgang mit KI-Risiken.

Die Entdeckung von Kinderpornografie in KI-Trainingsdatensätzen wirft gravierende ethische und sicherheitsrelevante Bedenken auf. Sie unterstreicht die Notwendigkeit strengerer Mechanismen zur Datenaufbereitung und -überwachung bei der Entwicklung von KI-Technologien. Angesichts der fortschreitenden Entwicklung und des zunehmenden Einflusses von KI auf verschiedene Lebensbereiche wird die Gewährleistung eines ethischen und sicheren Einsatzes dieser Technologien immer wichtiger.