Il tentativo di New York di frenare il bias dell'IA nelle assunzioni fallisce, ostacolando le iniziative globali
- La legge locale 144 di New York City (LL144), volta a contrastare i pregiudizi negli algoritmi di assunzione basati sull'IA, si rivela largamente inefficace, con solo una frazione dei datori di lavoro che rispetta i requisiti di verifica e trasparenza.
- Un recente studio condotto da Cornell University, Consumer Reports e Data & Society Research Institute evidenzia gravi carenze nella LL144, rivelando che essa concede un'eccessiva discrezionalità ai datori di lavoro e non riesce a imporre azioni significative contro gli esiti discriminatori.
- Il fallimento della LL144 ha ripercussioni oltre la sua giurisdizione, poiché altre regioni stanno rivalutando leggi simili, ostacolando gli sforzi globali per regolamentare il bias dell'IA nelle decisioni di assunzione.
Nel tentativo di affrontare il persistente problema del bias dell'IA nelle assunzioni, la città di New York ha implementato la Legge Locale 144 (LL144) nel 2021, richiedendo ai datori di lavoro di effettuare annualmente audit degli strumenti automatizzati di decisione di assunzione (AEDT) per bias razziali e di genere. Tuttavia, uno studio recente condotto da ricercatori dell'Università di Cornell, Consumer Reports e del Data & Society Research Institute ha scoperto gravi difetti nell'efficacia della legge. Lo studio, ancora da pubblicare ufficialmente ma condiviso con The Register, rivela statistiche allarmanti, indicando una marcata mancanza di conformità tra i datori di lavoro soggetti alla LL144.
La realtà dell'inefficacia della LL144 per il bias dell'IA
Entriamo nei dettagli della legge LL144 e dei risultati dello studio. Diventa evidente che, nonostante le sue buone intenzioni, la LL144 manca di efficacia nel costringere i datori di lavoro ad affrontare efficacemente il bias dell'IA. L'ampio ambito della legge consente ai datori di lavoro una discrezione considerevole nel determinare se i loro sistemi rientrano nella sua giurisdizione. Shockingly, su 391 datori di lavoro campionati, solo 18 avevano pubblicato i rapporti di audit richiesti e solo 13 avevano incluso avvisi di trasparenza nei loro annunci di lavoro.
Il co-autore dello studio, Jacob Metcalf di Data & Society, ha sottolineato le carenze della LL144, enfatizzando che concede troppa discrezione ai datori di lavoro. In modo notevole, la legge non obbliga ad azioni correttive se gli audit rivelano risultati discriminatori, lasciando i datori di lavoro vulnerabili a costose cause civili. I ricercatori hanno anche illustrato l'esperienza degli auditor che revisionano gli AEDT utilizzati dalle aziende di NYC, scoprendo casi in cui i datori di lavoro hanno scelto di non pubblicizzare i risultati degli audit con numeri sfavorevoli per preoccupazioni legali.
Rammificazioni globali
Il fallimento del tentativo di New York di frenare il bias dell'IA ha effetti a catena su iniziative simili in tutto il mondo. Le legislazioni proposte in altre giurisdizioni, tra cui California, Washington D.C. e lo stato di New York, hanno subito battute d'arresto mentre i legislatori riconsiderano le loro strutture alla luce delle carenze della LL144. Anche l'AI Act dell'Unione Europea, sebbene concordato provvisoriamente, affronta sfide nella definizione delle regolamentazioni per l'IA utilizzata nei processi di reclutamento.
In modo notevole, i problemi legali della società di software HR Workday sottolineano l'urgenza di affrontare il bias dell'IA. Nonostante il successo limitato della LL144, i ricercatori sostengono che la legge serve come preziosa esperienza di apprendimento e un passo cruciale verso una regolamentazione migliore. Tuttavia, sottolineano la necessità di ampliare l'ambito della legislazione, esortando le leggi future ad abbandonare il linguaggio astratto e fornire definizioni più chiare, in particolare nel determinare cosa costituisce l'uso coperto del software AEDT.
Una chiamata per una legislazione più chiara
Si pone una domanda critica sul futuro della regolamentazione del bias nell'IA. Dati i limiti della LL144, quali lezioni possono essere tratte per plasmare una legislazione globale più efficace e completa? Mentre le discussioni sul bias nell'IA continuano, la necessità di definizioni più chiare, un ambito più ampio e misure di enforcement rigorose diventa sempre più evidente. Il percorso per regolamentare l'IA nelle decisioni di assunzione potrebbe essere pieno di sfide, ma imparare dagli errori della LL144 potrebbe spianare la strada a regolamentazioni più robuste e impattanti in futuro.
Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Aamir Sheikh
Aamir è un giornalista tecnologico con quasi sei anni di esperienza nei settori delle criptovalute e della tecnologia. Si è laureato presso l'Università MAJ con un MBA in Finanza e Marketing. Attualmente lavora per Cryptopolitan, dove si occupa delle ultime novità sui mercati delle criptovalute e delle previsioni sui prezzi.
