- Il chatbot AI di NYC disinforma le imprese, esponendole a rischi legali offrendo consigli inaccurati su questioni critiche come la discriminazione abitativa.
- Gli esperti mettono in guardia dalle indicazioni "pericolosamente inaccurate" fornite dal chatbot, evidenziando potenziali violazioni delle leggi contro la discriminazione e dei diritti degli inquilini.
- Le richieste di azioni correttive sottolineano la necessità di responsabilità e accuratezza nell'implementazione della tecnologia AI per i servizi pubblici, al fine di preservare la fiducia pubblica e tutelare i diritti dei cittadini.
Lo sforzo di New York City di utilizzare l'IA nelle operazioni governative si scontra con un errore, poiché la città ha realizzato che il suo chatbot basato sull'IA sta fornendo alle aziende informazioni errate e, in alcuni casi, potenzialmente illecite. Lanciato a ottobre e pretendendo di consigliare su come navigare nelle complessità del fare affari in città, il chatbot è stato criticato per le sue risposte inaccurate, specialmente su questioni relative alla politica abitativa e ai diritti dei lavoratori.
Le informazioni fuorvianti sollevano preoccupazioni
In un'altra indagine, The Markup ha scoperto che il chatbot online offriva solitamente informazioni incomplete o chiaramente errate su argomenti critici come la discriminazione abitativa e i diritti degli inquilini. La domanda è: "Un proprietario dovrebbe accettare un inquilino con Sezione 8 o assistenza all'affitto?" Per questo esempio, fornisce una risposta negativa errata. Questo è contrario alla legge di New York City, che vieta al proprietario di discriminare gli inquilini in base alla fonte di reddito, con poche eccezioni.
Esperti e attivisti hanno espresso allarme per le potenziali conseguenze della disinformazione del chatbot. Un esperto di politica abitativa locale ha definito gli errori "pericolosamente inaccurati" con implicazioni che impattano la vita sia dei proprietari che degli inquilini. Seguendo le indicazioni del bot, i proprietari cadrebbero in pratiche che violerebbero sia le leggi anti-discriminazione che i diritti degli inquilini, peggiorando così il problema delle disuguaglianze abitative e delle ingiustizie economiche per la città.
Richieste di azioni correttive
Le rivelazioni hanno sollevato richieste affinché la città esamini le carenze del suo chatbot IA e si assicuri che stia effettivamente fornendo agli utenti informazioni accurate e legalmente valide. I sostenitori di questa visione sottolineano che le cattive informazioni devono essere corrette, garantendo che ci siano salvaguardie in modo che, nella vita, questo tipo di incidenti non si verifichino. Mentre New York City continua a tradurre i suoi progressi tecnologici nella governance, la responsabilità con il più alto standard e l'accuratezza devono dominare, mantenendo la fiducia pubblica per aziende e residenti in egual misura.
L'evento porta in primo piano le complicazioni e le sfide che faranno parte integrante del dispiegamento della tecnologia IA per i servizi pubblici, qualcosa che richiede un rigoroso controllo di qualità. Tuttavia, il dispiegamento dell'IA dovrà garantire che ci siano forti modi per effettuare controlli su queste informazioni e mitigare i danni che comporta, nonostante il potenziale che offre nel migliorare l'efficienza e l'accessibilità. Questo mentre le città e i governi continuano a implementare soluzioni guidate dall'IA, dove trasparenza, responsabilità e aderenza agli standard legali devono ancora essere osservate nel processo di garanzia che i diritti e il benessere di ogni cittadino siano salvaguardati.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
John Palmer
John Murangiri è arrivato su Cryptopolitan con competenze nell'analisi di mercato. John (noto anche come JP) si è laureato presso l'Università di Nairobi con una laurea in comunicazione di massa e studi sui media. In precedenza ha contribuito con approfondimenti sul mercato delle criptovalute a InsideBitcoins.com e Metacoingraph.
