Il chatbot di New York basato sull'intelligenza artificiale sotto accusa per aver diffuso informazioni false

Il chatbot di New York , basato sull'intelligenza artificiale e progettato per aiutare i piccoli imprenditori, è oggetto di forti critiche per aver fornito consigli imprecisi e fuorvianti. Nonostante le segnalazioni di indicazioni errate, il sindaco Eric Adams ha mantenuto lo strumento sul sito web ufficiale del governo, difendendo la decisione pur riconoscendone i limiti.

Aumentano le critiche per i consigli inesatti

Lanciato a ottobre come punto di riferimento per orientarsi nel panorama burocratico cittadino, il chatbot è stato oggetto di critiche per aver fornito informazioni errate su vari argomenti, tra cui le politiche abitative, i diritti dei lavoratori e le normative commerciali. I critici sostengono che le risposte inesatte del bot evidenziano i rischi derivanti dall'adozione AI senza un'adeguata supervisione.

La professoressa di informatica Julia Stoyanovich del Center for Responsible AI della New York University ha criticato l'approccio della città, definendolo sconsiderato e irresponsabile. Sostiene che l'implementazione di software non collaudati senza un'adeguata supervisione pone sfide significative. Nel frattempo, il sindaco Adams sostiene che incontrare problemi è una parte naturale dell'implementazione di nuove tecnologie e suggerisce che risolverli sia fondamentale per il miglioramento.

Richiede responsabilità e miglioramento

Mentre aumentano le preoccupazioni per le inesattezze del chatbot, gli esperti sottolineano la necessità di responsabilità e miglioramento. Rosalind Black, Direttrice del Dipartimento Alloggi di Citywide presso Legal Services NYC, evidenzia la disinformazione del bot in merito alle politiche abitative, sottolineando l'importanza di una guida accurata. Allo stesso modo, professionisti del settore come Andrew Rigie della NYC Hospitality Alliance mettono in guardia dalle potenziali responsabilità derivanti dalla fornitura alle aziende di informazioni legali errate.

Nonostante le critiche, l'Ufficio per la Tecnologia e l'Innovazione di New York (NYC Office of Technology and Innovation) rimane impegnato a migliorare la precisione e l'efficacia del chatbot. Pur riconoscendo i difetti del programma pilota, la portavoce Leslie Brown ne sottolinea l'impatto positivo nel fornire assistenza tempestiva a migliaia di utenti. La città si impegna a continuare a perfezionare lo strumento per supportare al meglio le piccole imprese di New York.

Il chatbot basato sull'intelligenza artificiale di New York City, progettato per assistere i titolari di piccole imprese, è sotto accusa per aver diffuso informazioni inaccurate e fuorvianti. I critici sollevano preoccupazioni sui potenziali rischi derivanti dall'implementazione della tecnologia di intelligenza artificiale senza un'adeguata supervisione. Tuttavia, i funzionari comunali rimangono impegnati a migliorare le prestazioni del chatbot e a garantirne l'accuratezza nel supportare le esigenze degli imprenditori in tutta la città.