Eine Menschenrechtsorganisation enthüllte, dass Bildgeneratoren Milliarden von Bildern brasilianischer Kinder ohne deren Zustimmung zum Training ihrer KI-Modelle verwendet haben. Human Rights Watch (HRW) führte Recherchen durch, die zeigen, dass gängige Bildgeneratoren wie Stable Diffusion Bilder von Kindern aus deren gesamter Kindheit nutzten, um ihre Modelle zu trainieren.
Lesen Sie auch: Technologieunternehmen werden aufgefordert, die Zunahme von KI-generiertem Material über sexuellen Kindesmissbrauch zu bekämpfen.
Die HRW-Studie zeigt, dass diese Bilder aus etwa zehn brasilianischen Bundesstaaten stammen. Sie berichtet, dass diese Bilder ein enormes „Risiko für die Privatsphäre von Kindern“ darstellen, da die Verbreitung von Bildern ohne Einwilligung der Kinder auch deren Abbild fördert.
Milliarden von Bildern brasilianischer Kinder wurden zum Trainieren von KI-Modellen verwendet.
Die HRW-Forscherin Hye Jung Han deckte das Problem auf, nachdem sie einen Bruchteil (weniger als 0,0001 %) von LAION-5B analysiert hatte, einem Datensatz, der aus Common-Crawl-Momentaufnahmen des öffentlichen Webs erstellt wurde. Sie enthüllte , dass der Datensatz nicht die eigentlichen Fotos enthielt, sondern „Bild-Text-Paare“, die aus fast 6 Milliarden Bildern und Bildunterschriften stammten, die seit 2008 veröffentlicht wurden.
Es wurden Kinderfotos aus zehn brasilianischen Bundesstaaten gefunden, die meisten davon Familienbilder, die auf Eltern- und persönlichen Blogs hochgeladen wurden. Laut Bericht handelt es sich um Bilder, auf die Internetnutzer nicht so leicht stoßen.
Lesen Sie auch: Großbritannien will die Erstellung sexuell expliziter Deepfakes unter Strafe stellen
HRW hat in Zusammenarbeit mit LAION , der deutschen gemeinnützigen Organisation, die den Datensatz erstellt hat, die Links zu den Bildern entfernt. Es bestehen weiterhin Bedenken, dass der Datensatz möglicherweise noch immer auf Kinderbilder aus aller Welt verweist, da das Entfernen der Links allein das Problem nicht vollständig löst.
„Dies ist ein größeres und sehr besorgniserregendes Problem, und als Freiwilligenorganisation werden wir unseren Teil dazu beitragen“, sagte LAION-Sprecher Nate Tyler gegenüber Ars.
Diedentvon Kindern sind leicht trac
Der Bericht von Human Rights Watch (HRW) enthüllte zudem, dass diedentvieler brasilianischer Kinder tracwerden konnte, da ihre Namen und Wohnorte in den Bildunterschriften des Datensatzes verwendet wurden. Er weckte außerdem Bedenken, dass die Kinder Gefahr laufen könnten, Zielscheibe von Mobbing zu werden, während ihre Bilder für pornografische Inhalte missbraucht werden könnten.
„Die ausgewerteten Fotos umfassen die gesamte Kindheit“, heißt es in einem Teil des Berichts.
„Sie fangen intime Momente ein, in denen Babys in die behandschuhten Hände von Ärzten geboren werden, kleine Kinder, die die Kerzen auf ihrem cake auspusten oder zu Hause in Unterwäsche tanzen…“
HRW.
Han gab jedoch bekannt, dass „alle öffentlich verfügbaren Versionen von LAION-5B entfernt wurden“, wodurch das Risiko, dass die Fotos der brasilianischen Kinder verwendet werden, nun geringer sei.
Laut HRW wird der Datensatz erst wieder verfügbar sein, wenn LAION sichergestellt hat, dass alle beanstandeten Inhalte entfernt wurden. Diese Entscheidung fiel, nachdem ein Bericht ebenfalls „Links im Datensatz zu illegalen Inhalten im öffentlichen Internet“ gefunden hatte, darunter über 3.000 mutmaßliche Fälle von Kindesmissbrauch .
Mindestens 85 Mädchen in Brasilien haben außerdem berichtet, dass sie von ihren Mitschülern belästigt wurden, indem diese mithilfe von KI sexuell explizite Deepfake-Inhalte „auf der Grundlage von Fotos aus ihren Social-Media-Aktivitäten“ erstellten.
Schutz der Privatsphäre von Kindern
Laut Ars wurde LAION-5B im Jahr 2022 eingeführt, angeblich um den Datensatz von OpenAI nachzubilden , und wurde als der größte „frei verfügbare Bild-Text-Datensatz“ angepriesen.
Als HRW LAION wegen der Bilder kontaktierte, antwortete die Organisation, dass KI-Modelle, die auf LAION-5B trainiert wurden, „die Daten von Kindern nicht wortgetreu wiedergeben könnten“, räumte aber die Datenschutz- und Sicherheitsrisiken ein.
Die Organisation begann daraufhin, einige Bilder zu entfernen, vertrat aber auch die Ansicht, dass Eltern und Erziehungsberechtigte für die Entfernung persönlicher Fotos ihrer Kinder aus dem Internet verantwortlich seien. Han widersprach dieser Argumentation und sagte:
„Kinder und ihre Eltern sollten nicht die Verantwortung dafür tragen müssen, Kinder vor einer Technologie zu schützen, vor der ein Schutz im Grunde unmöglich ist. Es ist nicht ihre Schuld.“
Han.
Human Rights Watch (HRW) forderte die brasilianischen Gesetzgeber zu einem dringenden Eingreifen auf, um die Rechte von Kindern vor neuen Technologien zu schützen. Gemäß den Empfehlungen von HRW müssen neue Gesetze erlassen werden, um das Sammeln von Kinderdaten für KI-Modelle zu verbieten.
Cryptopolitan Berichterstattung von Enacy Mapakame
