AI-Trainingsdatensätze enthalten beunruhigende Mengen an Material zur sexuellen Ausbeutung von Kindern
Sexueller Missbrauch von Kindern
- Eine Studie der Stanford University zeigt, dass KI-Modelle wie Stable Diffusion mit Datensätzen trainiert wurden, die Material zur sexuellen Ausbeutung Minderjähriger enthalten, was ethische Bedenken aufwirft.
- Forscher handeln schnell und melden URLs missbräuchlicher Bilder an NCMEC und C3P, wobei sie die Notwendigkeit eines verantwortungsvollen Umgangs mit KI-Daten betonen.
- Die Untersuchung des SIO verdeutlicht die Herausforderungen bei der Bereinigung offener Datensätze, fordert künftige Vorsichtsmaßnahmen und Zusammenarbeit mit Organisationen zum Kinderschutz.
In einer kürzlich vom Stanford Internet Observatory (SIO) durchgeführten Untersuchung wurden Hunderte bekannter Bilder von Material zur sexuellen Ausbeutung von Kindern (CSAM) in einem offenen Datensatz identifiziert, der zum Training beliebter KI-Text-zu-Bild-Generierungsmodelle, einschließlich Stable Diffusion, verwendet wird. Die Ergebnisse werfen ein beunruhigendes Licht auf die Verwendung offen verfügbarer Datensätze bei der Entwicklung fortschrittlicher künstlicher Intelligenz (KI)-Modelle.
Aufdeckung beunruhigender Trainingsdatenquellen
Die SIO-Untersuchung enthüllte, dass diese KI-Modelle direkt mit CSAM trainiert wurden, das im LAION-5B-Datensatz vorhanden ist, der Milliarden von Bildern aus verschiedenen Plattformen umfasst, darunter Mainstream-Social-Media-Websites und beliebte Adult-Video-Sites. Die Enthüllung wirft Bedenken hinsichtlich der unbeabsichtigten Fortsetzung der Ausbeutung von Kindern durch die Verwendung von Datensätzen auf, die mit illegalen und schädlichen Inhalten kontaminiert sind.
Schnelle Maßnahmen zur Lösung des Problems
Nach der Identifizierung der Quelldaten starteten die Forscher den Löschprozess, indem sie Bild-URLs an das National Center for Missing and Exploited Children (NCMEC) in den USA und das Canadian Centre for Child Protection (C3P) meldeten. Der Einsatz von Hashing-Tools wie PhotoDNA spielte eine entscheidende Rolle beim Abgleich von Bild-Fingerabdrücken mit Datenbanken, die von gemeinnützigen Organisationen betrieben werden, die sich der Bekämpfung der sexuellen Ausbeutung und des Missbrauchs von Kindern im Internet widmen.
Herausforderungen bei der Bereinigung offener Datensätze
Zwar gibt es Methoden, um die Präsenz von CSAM in Trainingsdatensätzen zu minimieren, doch betont der Bericht die Herausforderungen bei der Bereinigung oder Einstellung der Verteilung offener Datensätze, die über keine zentrale Behörde verfügen. Das Fehlen einer Hosting-Entität für diese Datensätze erschwert die Bemühungen, ihre Integrität und Sicherheit zu gewährleisten. Die Studie unterstreicht die Notwendigkeit proaktiver Maßnahmen, um die unbeabsichtigte Aufnahme illegaler Inhalte in KI-Trainingsdaten zu verhindern.
Sicherheitsempfehlungen für die zukünftige Handhabung von Datensätzen
Angesichts dieser Ergebnisse skizziert der Bericht Sicherheitsempfehlungen für das Sammeln von Datensätzen, das Trainieren von Modellen und das Hosten von Modellen, die auf gescrapten Datensätzen trainiert wurden. Er befürwortet gründliche Überprüfungen von Bildern gegen bekannte Listen von CSAM unter Verwendung von Erkennungstools wie Microsofts PhotoDNA. Die Zusammenarbeit mit Kinderschutzorganisationen wie NCMEC und C3P wird ebenfalls empfohlen, um die ethische und gesetzeskonforme Nutzung von KI-Technologie sicherzustellen.
Während KI weiter voranschreitet, wird die verantwortungsvolle Handhabung von Trainingsdatensätzen immer wichtiger, um unbeabsichtigte Beiträge zu illegalen Aktivitäten zu verhindern. Die Untersuchung des SIO dient als Weckruf für die KI-Community und drängt Stakeholder dazu, strenge Maßnahmen in der Datensatzkuratierung, dem Modelltraining und der Zusammenarbeit mit relevanten Kinderschutzbehörden zu ergreifen.
Als Reaktion auf diese Enthüllungen wird die KI-Community aufgefordert, ihre ethischen Standards zu überdenken und entscheidende Maßnahmen zu ergreifen, um die unbeabsichtigte Verwendung von CSAM in Trainingsdatensätzen anzugehen. Durch die Umsetzung der empfohlenen Sicherheitsmaßnahmen kann die Branche zur Entwicklung von KI-Technologie auf verantwortungsvolle und ethische Weise beitragen und sich vor den unbeabsichtigten Folgen unkontrollierter Datensatzquellen schützen.
Die Ergebnisse der SIO-Untersuchung unterstreichen die Bedeutung von Wachsamkeit in einer Ära, in der technologische Fortschritte mit einem starken Engagement für die ethische KI-Entwicklung einhergehen müssen. Die Zusammenarbeit zwischen Forschern, Branchenführern und Kinderschutzorganisationen ist entscheidend, um sicherzustellen, dass sich die KI-Technologie in einer Weise entwickelt, die mit gesellschaftlichen Werten übereinstimmt und das Wohlbefinden gefährdeter Personen priorisiert.
Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf Basis der auf dieser Seite bereitgestellten Informationen getätigt werden. Wir empfehlen dringend eine unabhängige Recherche und/oder Beratung durch einen qualifizierten Fachmann, bevor Sie eine Investitionsentscheidung treffen.
Derrick Clinton
Derrick ist freiberuflicher Journalist mit einem Schwerpunkt auf Blockchain und Kryptowährungen. Er beschäftigt sich hauptsächlich mit Problemen und Lösungen im Bereich Krypto-Projekte und bietet Marktanalysen für Investoren. Seine analytischen Fähigkeiten wendet er auf Thesen an.
