KI-Startups nutzen Bilder brasilianischer Kinder, um Modelle ohne Zustimmung zu trainieren

Eine Interessenvertretung hat enthüllt, dass Bildgeneratoren Milliarden von Bildern brasilianischer Kinder verwendet haben, um ihre KI-Modelle ohne deren Zustimmung zu trainieren. Human Rights Watch (HRW) führte Forschungen durch, die zeigen, dass beliebte Bildgeneratoren wie Stable Diffusion Bilder von Kindern „die ihre gesamte Kindheit abdecken“ verwendeten, um ihre Modelle zu trainieren.

Auch lesen: Tech-Unternehmen aufgefordert, der Zunahme von KI-generiertem sexuellem Missbrauchsmaterial an Kindern entgegenzuwirken

Die HRW-Studie enthüllt, dass diese Bilder aus etwa 10 brasilianischen Bundesstaaten stammen. Sie berichtete, dass diese Bilder ein enormes „Datenschutzrisiko für Kinder“ darstellen, da der Vorgang auch die Produktion nicht einvernehmlicher Bilder, die ihrem Abbild entsprechen, erhöht.

Milliarden von Bildern brasilianischer Kinder zur Schulung von KI-Modellen verwendet

HRW-Forscherin Hye Jung Han legte das Problem offen, nachdem sie einen kleinen Teil (weniger als 0,0001 %) von LAION-5B analysiert hatte, einem Datensatz, der aus Common-Crawl-Snapshots des öffentlichen Webs erstellt wurde. Sie zeigte auf, dass der Datensatz nicht die eigentlichen Fotos enthielt, sondern „Bild-Text-Paare“, die aus fast 6 Milliarden Bildern und Beschriftungen stammen, die seit 2008 veröffentlicht wurden.

Bilder von Kindern aus 10 brasilianischen Bundesstaaten wurden gefunden, wobei die meisten Familienbilder umfassten, die auf Eltern- und persönlichen Blogs hochgeladen wurden. Laut dem Bericht sind dies Bilder, auf die Internetnutzer nicht leicht stoßen.

Auch lesen: UK wird die Erstellung sexuell expliziter Deepfakes zu einer Straftat erklären

HRW entfernte in Zusammenarbeit mit LAION, der deutschen gemeinnützigen Organisation, die den Datensatz erstellt hat, die Links zu den Bildern. Es bestehen weiterhin Bedenken, dass der Datensatz möglicherweise immer noch auf Kinderbilder aus der ganzen Welt verweist, da das Entfernen von Links das Problem nicht vollständig löst.

„Dies ist ein größeres und sehr besorgniserregendes Problem, und als Freiwilligenorganisation werden wir unseren Teil dazu beitragen, zu helfen“, sagte LAION-Sprecher Nate Tyler gegenüber Ars.

Identitäten von Kindern sind leicht nachverfolgbar

Der HRW-Bericht enthüllte weiter, dass die Identitäten vieler brasilianischer Kinder nachverfolgbar sein könnten, da ihre Namen und Standorte in den Beschriftungen verwendet wurden, die den Datensatz bildeten. Es wurden auch Bedenken geäußert, dass die Kinder Gefahr laufen könnten, von Mobbern gezielt zu werden, während ihre Bilder für explizite Inhalte verwendet werden könnten.

„Die überprüften Fotos decken die gesamte Kindheit ab“, heißt es in einem Teil des Berichts.

„Sie fangen intime Momente ein, wie Babys, die in die behandschuhten Hände von Ärzten geboren werden, kleine Kinder, die Kerzen auf ihrem Geburtstagskuchen ausblasen, oder Kinder, die in ihrer Unterwäsche zu Hause tanzen…“

HRW.

Han enthüllte jedoch, dass „alle öffentlich verfügbaren Versionen von LAION-5B heruntergenommen wurden“, und daher besteht jetzt ein geringeres Risiko, dass die Fotos der brasilianischen Kinder verwendet werden.

Laut HRW wird der Datensatz erst wieder verfügbar sein, wenn LAION sicherstellt, dass alle gemeldeten Inhalte entfernt wurden. Die Entscheidung wurde getroffen, nachdem ein Bericht der Stanford University ebenfalls „Verbindungen im Datensatz zu illegalen Inhalten im öffentlichen Internet“ festgestellt hatte, darunter über 3.000 verdächtige Fälle von sexueller Ausbeutung von Kindern.

Mindestens 85 Mädchen in Brasilien haben auch berichtet, dass ihre Klassenkameraden sie belästigt haben, indem sie KI verwendeten, um sexuell explizite Deepfake-Inhalte „basierend auf Fotos, die von ihren Social-Media-Inhalten stammen“, zu generieren.

Schutz der Privatsphäre von Kindern

Laut Ars wurde LAION-5B im Jahr 2022 eingeführt, angeblich um den Datensatz von OpenAI zu replizieren, und wurde als größtes „frei verfügbares Bild-Text-Datenset“ beworben.

Als HRW LAION wegen der Bilder kontaktierte, antwortete die Organisation mit der Aussage, dass KI-Modelle, die auf LAION-5B trainiert wurden, „keine Kinderdaten wörtlich produzieren könnten“, obwohl sie die Datenschutz- und Sicherheitsrisiken anerkannte.

Die Organisation begann daraufhin, einige Bilder zu entfernen, merkte jedoch an, dass Eltern und Erziehungsberechtigte dafür verantwortlich seien, persönliche Fotos von Kindern aus dem Internet zu entfernen. Han widersprach diesem Argument und sagte:

„Kinder und ihre Eltern sollten nicht die Verantwortung dafür übernehmen, Kinder vor einer Technologie zu schützen, gegen die es grundsätzlich unmöglich ist, sich zu schützen. Es ist nicht ihre Schuld.“

Han.

HRW forderte die dringende Intervention brasilianischer Gesetzgeber, um die Rechte von Kindern vor aufkommenden Technologien zu schützen. Es müssen neue Gesetze eingeführt werden, die das Scraping von Kinderdaten in KI-Modelle verbieten, gemäß den Empfehlungen von HRW.

Bericht von Cryptopolitan von Enacy Mapakame