Le startup di intelligenza artificiale usano le foto dei bambini brasiliani per addestrare modelli senza consenso

Un gruppo di pressione ha rivelato che i generatori di immagini hanno utilizzato miliardi di immagini di bambini brasiliani per addestrare i loro modelli di intelligenza artificiale senza il loro consenso. Human Rights Watch (HRW) ha condotto una ricerca che dimostra che generatori di immagini popolari come Stable Diffusion hanno utilizzato immagini di bambini "che coprono tutta la loro infanzia" per addestrare i loro modelli.

Leggi anche: Le aziende tecnologiche sono invitate a contrastare l'aumento di materiale pedopornografico generato dall'intelligenza artificiale

Lo studio di HRW rivela che queste immagini sono state scattate in circa 10 stati brasiliani. Si legge che queste immagini rappresentano un enorme "rischio per la privacy dei minori", poiché la legge aumenta anche la produzione di immagini non consensuali che li ritraggono.

Miliardi di immagini di bambini brasiliani utilizzate per addestrare modelli di intelligenza artificiale

La ricercatrice di Human Rights Watch, Hye Jung Han, ha portato alla luce il problema dopo aver analizzato una frazione (meno dello 0,0001%) di LAION-5B, un dataset creato a partire da snapshot di Common Crawl del web pubblico. Ha rivelato che il dataset non conteneva le foto vere e proprie, ma "coppie di immagini e testo" ricavate da quasi 6 miliardi di immagini e didascalie pubblicate dal 2008.

Sono state trovate foto di bambini provenienti da 10 stati brasiliani, la maggior parte delle quali erano foto di famiglia caricate su blog per genitori e blog personali. Secondo il rapporto, si tratta di immagini che gli utenti di Internet non trovano facilmente.

Leggi anche: Il Regno Unito dichiarerà la creazione di deepfake sessualmente espliciti un atto criminale

Human Rights Watch ha rimosso i link alle immagini in collaborazione con LAION, l'organizzazione no-profit tedesca che ha creato il dataset. Permangono tuttavia i timori che il dataset possa ancora fare riferimento a immagini di bambini provenienti da tutto il mondo, poiché la sola rimozione dei link non risolve completamente il problema.

"Si tratta di un problema più ampio e preoccupante e, in quanto organizzazione di volontariato, faremo la nostra parte per aiutare", ha detto ad Ars il portavoce della LAION, Nate Tyler.

L'dentdei bambini è facilmente trac

Il rapporto dell'HRW ha inoltre rivelato che l'dentdi molti bambini brasiliani potrebbe essere trac, poiché i loro nomi e la loro posizione geografica sono stati utilizzati nelle didascalie che hanno costituito il dataset. Ha inoltre sollevato preoccupazioni sul fatto che i bambini possano essere a rischio di essere presi di mira dai bulli, mentre le loro immagini potrebbero essere utilizzate per contenuti espliciti.

"Le foto esaminate coprono l'intero arco dell'infanzia", ​​si legge in una parte del rapporto.

“Catturano momenti intimi di neonati che nascono tra le mani guantate dei dottori, di bambini piccoli che soffiano sulle candeline della cake di compleanno o che ballano in mutande a casa…”

HRW.

Han ha tuttavia rivelato che "tutte le versioni pubbliche di LAION-5B sono state rimosse", e quindi ora c'è meno rischio che le foto dei bambini brasiliani vengano utilizzate.

Secondo Human Rights Watch, il dataset non sarà nuovamente disponibile finché LAION non avrà la certezza che tutti i contenuti segnalati siano stati rimossi. La decisione è stata presa dopo che un rapporto ha "trovato nel dataset collegamenti che rimandano a contenuti illegali sul web pubblico", tra cui oltre 3.000 casi sospetti di abusi sessuali su minori .

Almeno 85 ragazze in Brasile hanno denunciato di essere state molestate dai loro compagni di classe tramite l'uso dell'intelligenza artificiale per generare contenuti deepfake sessualmente espliciti "basati su foto prese dai loro contenuti sui social media"

Proteggere la privacy dei bambini

Secondo Ars Technica, LAION-5B è stato introdotto nel 2022, a quanto pare per replicare il dataset di OpenAI, ed è stato pubblicizzato come il più grande "dataset di immagini e testo disponibile gratuitamente".

Quando HRW ha contattato LAION in merito alle immagini, l'organizzazione ha risposto affermando che i modelli di intelligenza artificiale addestrati su LAION-5B "non potevano riprodurre fedelmente i dati dei bambini", pur riconoscendo i rischi per la privacy e la sicurezza.

L'organizzazione ha quindi iniziato a rimuovere alcune immagini, ma ha anche sostenuto che genitori e tutori erano responsabili della rimozione delle foto personali dei bambini da Internet. Han non era d'accordo con la loro argomentazione, affermando:

"I bambini e i loro genitori non dovrebbero essere costretti ad assumersi la responsabilità di proteggere i propri figli da una tecnologia da cui è fondamentalmente impossibile proteggersi. Non è colpa loro."

Han.

HRW ha chiesto un intervento urgente dei legislatori brasiliani per proteggere i diritti dei bambini dalle tecnologie emergenti. È necessario che vengano emanate nuove leggi per vietare l'inserimento dei dati dei bambini nei modelli di intelligenza artificiale, come raccomandato da HRW.

Reporting Cryptopolitan di Enacy Mapakame