L'EEOC raggiunge un accordo storico nel primo caso di discriminazione tramite IA

In uno sviluppo rivoluzionario, la Commissione per le Pari Opportunità di Lavoro degli Stati Uniti (EEOC) ha raggiunto un accordo provvisorio nel suo primo caso di discriminazione mai intentato, incentrato sull'uso di software di intelligenza artificiale (IA) nelle pratiche di assunzione. Il caso sottolinea l'impegno dell'EEOC ad affrontare i potenziali bias nei processi di reclutamento guidati dall'IA, una preoccupazione crescente man mano che la tecnologia svolge un ruolo sempre più fondamentale nelle decisioni di impiego. La causa, EEOC contro iTutorGroup, Inc., segna una pietra miliare significativa nel dialogo in corso sulle implicazioni etiche e legali dell'IA nell'impiego.

La posizione ferma dell'EEOC su IA e discriminazione

Nel maggio 2022, l'EEOC, in collaborazione con il Dipartimento di Giustizia degli Stati Uniti, ha adottato un approccio proattivo rilasciando linee guida per fornire chiarezza a datori di lavoro, dipendenti e candidati riguardo all'uso appropriato degli strumenti IA nei processi di impiego. Questo passo ha segnato il riconoscimento dei potenziali pericoli che potrebbero sorgere da un'affidamento acritico ai sistemi guidati dall'IA. Le linee guida hanno gettato le basi per azioni successive, inclusa un'audizione pubblica tenuta dall'EEOC nel gennaio dell'anno successivo. L'audizione, che ha visto la partecipazione di quasi 3.000 partecipanti virtuali, ha presentato testimonianze da una vasta gamma di esperti, dall'Unione Americana per le Libertà Civili alla Camera di Commercio degli Stati Uniti e rappresentanti di studi legali e istituzioni accademiche.

Il caso di iTutorGroup e le accuse di discriminazione basata sull'età

Nel caso EEOC contro iTutorGroup, Inc., l'EEOC ha formulato accuse contro iTutorGroup, un fornitore di servizi di tutoraggio in lingua inglese per studenti in Cina. La rivendicazione centrale ruotava attorno all'uso presunto da parte dell'azienda di software IA che rifiutava automaticamente i candidati in base all'età. Questa pratica discriminatoria è venuta alla luce quando un candidato inizialmente rifiutato si è ricandidato con una data di nascita diversa ed è stato successivamente accettato per la posizione. Il caso esemplifica le conseguenze di vasta portata che gli strumenti di selezione basati sull'IA possono avere, portando involontariamente a risultati ingiusti e illeciti.

Dettagli dell'Accordo Provvisorio e del Decreto di Consenso

L'EEOC e iTutorGroup hanno ora stipulato un accordo provvisorio, soggetto all'approvazione del Giudice Pamela K. Chen. Il decreto di consenso proposto delinea misure complete per rettificare le pratiche discriminatorie alleged. Ai sensi dei termini del decreto, iTutorGroup ha accettato di pagare un totale di 365.000 dollari, che saranno distribuiti tra oltre 200 candidati che sono stati ingiustamente negati le posizioni, violando l'Age Discrimination in Employment Act. L'azienda è anche obbligata a invitare i candidati precedentemente rifiutati tra marzo e aprile 2020 a ricandidarsi per le posizioni. Inoltre, iTutorGroup è tenuta ad adottare politiche anti-discriminazione e implementare formazione anti-discriminazione per i suoi dipendenti.

Progressi contro il bias dell'IA e implicazioni per il futuro

Questo caso storico mette in luce la robusta posizione dell'EEOC contro le aziende che impiegano software IA nei loro processi di reclutamento. Le implicazioni di questo accordo si estendono oltre le parti immediatamente coinvolte, risuonando in tutto il settore tecnologico e nei settori dell'impiego in generale. L'attenzione dell'EEOC sugli strumenti IA si estende a varie categorie di applicazioni che sollevano preoccupazioni tra critici e sostenitori dell'etica dell'IA. Esempi notevoli includono:

• Scanner di curriculum e priorità delle parole chiave: Alcuni strumenti IA impiegano scanner di curriculum per priorizzare le candidature in base a parole chiave specifiche. Sebbene ciò possa semplificare lo screening iniziale, solleva anche domande sulla potenziale perpetuazione del bias associato a queste parole chiave.
• Software di monitoraggio dei dipendenti: Gli strumenti di monitoraggio dei dipendenti basati sull'IA che valutano le prestazioni in base a fattori come i tasti premuti sollevano preoccupazioni sull'erosione della privacy dei dipendenti e sul potenziale per valutazioni inaccurate.
• Assistenti virtuali e chatbot: Gli assistenti virtuali o i chatbot che valutano le qualifiche dei candidati potrebbero escludere involontariamente individui promettenti che non soddisfano i criteri predefiniti, perdendo prospettive e capacità diversificate.
• Interviste video e analisi delle espressioni facciali: Il software di interviste video che valuta i candidati in base alle espressioni facciali e ai modelli di discorso potrebbe introdurre involontariamente valutazioni soggettive e potenzialmente discriminatorie.
• Software di test e punteggio di adattamento al lavoro: Il software di test che assegna punteggi di "adattamento al lavoro" basati su attitudini, personalità o compatibilità culturale percepita solleva preoccupazioni su come questi fattori vengono misurati e se potrebbero portare a discriminazioni ingiuste.

Prospettive future: Decreto di consenso di cinque anni

Se il decreto di consenso riceve l'approvazione del Giudice Chen, rimarrà in vigore per cinque anni. Questo impegno temporale riflette la determinazione dell'EEOC di garantire cambiamenti e miglioramenti sostenuti nelle pratiche di assunzione di iTutorGroup. L'esito di questo caso servirà da precedente per azioni legali future che coinvolgono la discriminazione tramite IA, stabilendo aspettative per le aziende di essere diligenti nella valutazione e mitigazione dei bias all'interno dei loro processi di assunzione guidati dalla tecnologia.

L'approccio proattivo dell'EEOC, la risposta collettiva di esperti e stakeholder e l'accordo fondamentale in EEOC contro iTutorGroup, Inc. segnalano collettivamente un momento cruciale nella narrazione in corso riguardante l'IA, l'etica e il diritto del lavoro. Gli anni a venire probabilmente assisteranno a un focus intensificato sullo schieramento responsabile degli strumenti IA, con le aziende tenute responsabili dell'impatto della loro tecnologia sulla diversità, equità e pari opportunità.