Stanford Report deckt Kinderpornografie in KI-Trainingsdaten auf

Das Stanford Internet Observatory hat eine beunruhigende Entdeckung gemacht: Über 1.000 gefälschte Bilder sexueller Ausbeutung von Kindern in LAION-5B, einem Datensatz, der zum Trainieren von KI-Bildgeneratoren verwendet wird. Diese im April öffentlich gemachte Erkenntnis hat ernsthafte Bedenken hinsichtlich der Quellen und Methoden zur Zusammenstellung von KI-Trainingsmaterialien aufgeworfen.

LAION-5B, das mit dem in London ansässigen KI-Bildgenerator Stable Diffusion von Stability AI verbunden ist, sammelte diese Bilder, indem es Inhalte aus sozialen Medien und pornografischen Websites stichprobenartig überprüfte. Die Entdeckung solcher Inhalte in KI-Trainingsmaterialien ist alarmierend, wenn man die weit verbreitete Nutzung und den potenziellen Einfluss dieser Plattformen bedenkt.

Bewältigung der Herausforderung mit Technologie

Die Stanford-Forscher haben die missbräuchlichen Inhalte nicht direkt angesehen, als sie nach diesen Bildern suchten. Stattdessen nutzten sie die PhotoDNA-Technologie von Microsoft, ein Tool, das entwickelt wurde, um Bilder sexueller Ausbeutung von Kindern zu erkennen, indem es gehashte Bilder mit bekannten missbräuchlichen Inhalten aus verschiedenen Datenbanken abgleicht.

Die Erkenntnisse des Stanford-Teams, die an relevante gemeinnützige Organisationen in den Vereinigten Staaten und Kanada übermittelt wurden, unterstreichen die dringende Notwendigkeit strengerer Maßnahmen bei der Kuratierung von KI-Trainingsdatensätzen. Die Forscher schlagen die Verwendung von Tools wie PhotoDNA für zukünftige Datensatz-Zusammenstellungen vor, um schädliche Inhalte herauszufiltern. Sie weisen jedoch auch auf die Herausforderungen bei der Bereinigung offener Datensätze hin, insbesondere in Abwesenheit einer zentralen Hosting-Behörde.

Als Reaktion auf den Bericht hat LAION, das Large-scale Artificial Intelligence Open Network, seine Datensätze vorübergehend entfernt, um ihre Sicherheit zu gewährleisten, bevor sie erneut veröffentlicht wurden. LAION betonte seine Null-Toleranz-Politik für illegale Inhalte und die Notwendigkeit von Vorsicht im Umgang mit solchen sensiblen Materialien.

Die weiterreichenden Implikationen und Reaktionen

Dieses Problem ist nicht auf den betreffenden Datensatz beschränkt. Der Stanford-Bericht legt nahe, dass selbst eine kleine Anzahl missbräuchlicher Bilder KI-Tools erheblich beeinflussen kann, wodurch sie Tausende von Deepfakes generieren können. Dies stellt eine globale Bedrohung für junge Menschen und Kinder dar, da es nicht nur die Ausbeutung realer Opfer fortsetzt, sondern auch verstärkt.

Der Wettlauf um den Markt vieler generativer KI-Projekte wurde kritisiert, wobei Experten wie David Thiel, Chief Technologist des Stanford Internet Observatory, für eine rigorosere Aufmerksamkeit bei der Zusammenstellung von Datensätzen plädieren. Thiel betont, dass ein solches weitreichendes Scraping des Internets auf Forschungsoperationen beschränkt bleiben sollte und nicht ohne gründliche Überprüfung quelloffen gemacht werden sollte.

Angesichts dieser Erkenntnisse hat Stability AI, ein prominenter Nutzer des LAION-Datensatzes, Schritte unternommen, um Missbrauchsrisiken zu mindern. Neuere Versionen seines Stable-Diffusion-Modells wurden so gestaltet, dass die Erstellung schädlicher Inhalte erschwert wird. Eine im letzten Jahr veröffentlichte ältere Version birgt jedoch weiterhin Risiken und wird in anderen Anwendungen weit verbreitet genutzt.

Die internationalen Reaktionen auf dieses Problem waren unterschiedlich. In den Vereinigten Staaten startet die Regierung ein KI-Sicherheitsinstitut, um Risiken zu bewerten, die von KI-Modellen ausgehen. Ähnlich implementiert Australien neue Algorithmen, um die Weitergabe von KI-generierten Bildern sexueller Ausbeutung von Kindern zu verhindern. In Großbritannien haben führende KI-Entwickler vereinbart, mit Regierungen zusammenzuarbeiten, um neue Modelle vor ihrer Veröffentlichung zu testen.

Auf dem globalen KI-Sicherheitsgipfel in Großbritannien unterzeichneten über 25 Länder, darunter die Vereinigten Staaten und Indien sowie die Europäische Union, die „Bletchley-Deklaration“. Diese Vereinbarung zielt darauf ab, einen gemeinsamen Ansatz für die KI-Überwachung zu etablieren und unterstreicht das Engagement der internationalen Gemeinschaft, KI-Risiken verantwortungsvoll zu managen.

Die Entdeckung von Kinderpornografie in KI-Trainingsdatensätzen wirft tiefgreifende ethische und sicherheitsrelevante Bedenken auf. Sie verdeutlicht die Notwendigkeit rigoroserer Datenkuratierung und Überwachungsmechanismen bei der Entwicklung von KI-Technologien. Da KI weiterhin fortschreitet und verschiedene Aspekte des Lebens durchdringt, wird die Sicherstellung der ethischen Nutzung und sicheren Bereitstellung dieser Technologien zunehmend entscheidend.