Il tentativo di New York di limitare la disparità di assunzione dovuta all'intelligenza artificiale fallisce, soffocando le iniziative globali

Nel tentativo di affrontare il persistente problema dei pregiudizi legati all'intelligenza artificiale nelle assunzioni, la città di New York ha implementato la Legge Locale 144 (LL144) nel 2021, che impone ai datori di lavoro di verificare annualmente gli strumenti automatizzati per le decisioni in materia di assunzione (AEDT) per individuare eventuali pregiudizi di razza e genere. Tuttavia, un recente studio condotto da ricercatori della Cornell University, Consumer Reports e del Data & Society Research Institute ha evidenziato gravi carenze nell'efficacia della legge. Lo studio, non ancora pubblicato ufficialmente ma condiviso con The Register, rivela statistiche allarmanti, che indicano una netta mancanza di conformità tra i datori di lavoro soggetti alla LL144.

La realtà dell'inefficacia di LL144 per la distorsione dell'IA

Approfondiamo i dettagli della legge LL144 e i risultati dello studio. Èdent che, nonostante le sue buone intenzioni, la LL144 non è in grado di indurre i datori di lavoro ad affrontare efficacemente i pregiudizi legati all'intelligenza artificiale. L'ampio ambito di applicazione della legge consente ai datori di lavoro un'ampia discrezionalità nel determinare se i loro sistemi rientrino nel suo ambito di applicazione. Sorprendentemente, dei 391 datori di lavoro intervistati, solo 18 avevano pubblicato i report di audit richiesti e solo 13 avevano incluso avvisi di trasparenza nei loro annunci di lavoro.

Il coautore dello studio, Jacob Metcalf di Data & Society, ha evidenziato le carenze della LL144, sottolineando che concede troppa discrezionalità ai datori di lavoro. In particolare, la legge non impone azioni correttive se gli audit rivelano risultati discriminatori, esponendo i datori di lavoro a costose cause civili. I ricercatori hanno anche fatto luce sull'esperienza dei revisori che hanno esaminato gli AEDT utilizzati dalle aziende di New York, scoprendo casi in cui i datori di lavoro hanno scelto di non pubblicare i risultati degli audit con numeri sfavorevoli a causa di preoccupazioni legali.

Ramificazioni globali

Il fallimento del tentativo di New York di limitare i pregiudizi sull'intelligenza artificiale ha avuto effetti a catena su iniziative simili in tutto il mondo. Le proposte legislative in altre giurisdizioni, tra cui California, Washington DC e lo Stato di New York, hanno subito battute d'arresto, poiché i legislatori hanno riconsiderato le loro strutture alla luce delle carenze della LL144. Persino l'AI Act dell'Unione Europea, sebbene approvato provvisoriamente, si trova ad affrontare difficoltà nella defidi normative per l'intelligenza artificiale utilizzata nei processi di reclutamento.

In particolare, i problemi legali dell'azienda di software per le risorse umane Workday sottolineano l'urgenza di affrontare il problema dei pregiudizi legati all'intelligenza artificiale. Nonostante il successo limitato di LL144, i ricercatori sostengono che la legge rappresenti una preziosa esperienza di apprendimento e un primo passo cruciale verso una migliore regolamentazione. Tuttavia, sottolineano la necessità di ampliare l'ambito di applicazione della legislazione, esortando le leggi future ad abbandonare il linguaggiotrace a fornire defipiù chiare, in particolare nel determinare cosa costituisca l'uso coperto del software AEDT.

Un appello per una legislazione più chiara

una domanda critica sul futuro della dei pregiudizi legati all'IA . Date le carenze della LL144, quali insegnamenti si possono trarre per definire una legislazione più efficace e completa a livello globale? Con il proseguire delle discussioni sui pregiudizi legati all'IA, la necessità di definizioni più chiare defiun ambito di applicazione più ampio e misure di applicazione rigorose diventa sempre piùdent. Il percorso per regolamentare l'IA nelle decisioni di assunzione potrebbe essere irto di sfide, ma imparare dagli errori della LL144 potrebbe aprire la strada a normative più solide e incisive in futuro.