L'AI nelle scuole mette a rischio gli studenti LGBTQ+, rivela un nuovo studio

In un recente rapporto pubblicato dal Center for Democracy and Technology, sono state sollevate preoccupazioni sull'impatto dell'intelligenza artificiale (AI) nelle scuole sugli studenti vulnerabili, in particolare quelli LGBTQ+, disabili o studenti di colore. Lo studio, che ha intervistato studenti, genitori e insegnanti, getta luce sulle conseguenze involontarie delle tecnologie basate sull'AI utilizzate negli ambienti educativi.

Un rischio per gli studenti vulnerabili

Lo studio del Center for Democracy and Technology ha trovato che le tecnologie progettate per bloccare contenuti adulti espliciti e identificare studenti a rischio di autolesionismo o di nuocere ad altri stanno involontariamente mettendo in pericolo studenti già vulnerabili. Gli studenti LGBTQ+, in particolare, hanno maggiori probabilità di affrontare ripercussioni negative per le loro attività online attraverso il monitoraggio delle attività degli studenti rispetto ai loro coetanei eterosessuali e cisgender.

Uscita forzata senza consenso: Allarmantemente, il 29 percento degli studenti LGBTQ+ ha riferito che sia loro stessi che un altro studente era stato "outing" come LGBTQ+, un evento potenzialmente traumatico. Questa rivelazione sottolinea le significative preoccupazioni sulla privacy relative al monitoraggio AI nelle scuole.

Disciplina sproporzionata: Lo studio ha anche scoperto che il 50 percento degli studenti LGBTQ+ intervistati ha riferito che loro o un altro studente era stato disciplinato per attività online, rispetto al 39 percento degli studenti non LGBTQ+. Questa azione disciplinare sproporzionata solleva questioni di equità e giustizia.

La prevalenza del monitoraggio delle attività degli studenti

Il monitoraggio delle attività degli studenti è risultato essere diffuso nelle istituzioni educative, con quasi l'88 percento degli insegnanti che ne ha segnalato l'uso sui dispositivi forniti dalla scuola. Inoltre, il 40 percento degli insegnanti ha indicato che le loro scuole monitoravano persino i dispositivi personali degli studenti. Questa sorveglianza si estende oltre l'orario scolastico, con il 38 percento degli insegnanti che ha segnalato attività di monitoraggio al di fuori dell'orario scolastico.

Divieto digitale di libri: restrizione dei contenuti LGBTQ+ e legati alla razza

Il rapporto evidenzia anche che un terzo degli insegnanti intervistati ha espresso preoccupazioni per i filtri dei contenuti AI che restringono in modo sproporzionato i contenuti relativi agli argomenti LGBTQ+ e ai contenuti che esplorano la razza. Questa restrizione è paragonata a un "divieto digitale di libri" e solleva preoccupazioni sulla censura e sull'accesso a prospettive diverse.

La chiamata per l'educazione e la consapevolezza

Una delle scoperte sorprendenti dello studio è la "confusione diffusa" tra genitori, studenti e insegnanti riguardo al ruolo dell'intelligenza artificiale in classe. Molti stakeholder desiderano maggiori informazioni e formazione su come utilizzare correttamente le tecnologie AI. Sfortunatamente, nonostante il rilascio da parte della Casa Bianca di un Blueprint per un Bill of Rights sull'AI nel 2022, il 57 percento degli insegnanti nell'indagine più recente ha rivelato di non aver ricevuto una formazione sostanziale sull'AI.

Una preoccupazione persistente

È importante notare che questo recente rapporto fa eco alle preoccupazioni precedentemente sollevate dal Center for Democracy and Technology nel loro documento di ricerca del 2022, "Hidden Harms: Targeting LGBTQ+ Students". In quello studio, gli algoritmi utilizzati dalle scuole segnalavano automaticamente parole come "gay" e "lesbica" nei messaggi e nei documenti degli studenti, potenzialmente uscendo fuori dal loro consenso.

Il bisogno di protezioni

Elizabeth Laird, direttrice dell'equità nella tecnologia civica per il Center for Democracy and Technology, ha sottolineato che certi gruppi di studenti dovrebbero già essere protetti dalle leggi esistenti sui diritti civili. Eppure, continuano a subire conseguenze sproporzionate e negative a causa dell'uso di dati e tecnologie educative. C'è un chiaro bisogno che le scuole siano più intenzionali su come utilizzano queste tecnologie per prevenire discriminazioni e altri danni.

Promuovere il cambiamento

Gruppi per i diritti civili, tra cui l'ACLU, l'American Association of School Librarians, l'American Library Association, il Disability Rights in Education Defense Fund e l'Electronic Frontier Foundation, hanno firmato una lettera a sostegno delle protezioni legate all'educazione alla luce della crescente prominenza dell'AI generativa nelle scuole. L'importanza di garantire che le tecnologie AI siano utilizzate in modo responsabile e non danneggino gli studenti marginalizzati non può essere sottovalutata.

L'integrazione dell'AI nelle scuole offre numerosi benefici, ma solleva anche preoccupazioni significative, specialmente per gli studenti vulnerabili. È imperativo che le istituzioni educative, i responsabili politici e i fornitori di tecnologia lavorino insieme per affrontare queste questioni e garantire che le tecnologie AI siano impiegate in modi che promuovano equità, inclusività e il benessere di tutti gli studenti.