Il chatbot basato sull'intelligenza artificiale di New York City , progettato per aiutare i piccoli imprenditori, è stato duramente criticato per aver fornito consigli imprecisi e fuorvianti. Nonostante le segnalazioni di linee guida errate, il sindaco Eric Adams ha mantenuto lo strumento sul sito web ufficiale del governo, difendendo la decisione pur riconoscendone le carenze.
Aumentano le critiche per i consigli inesatti
Lanciato a ottobre come hub di risorse per orientarsi nel panorama burocratico cittadino, il chatbot è stato criticato per aver fornito informazioni errate su vari argomenti, tra cui politiche abitative, diritti dei lavoratori e normative aziendali. I critici sostengono che le risposte errate del bot evidenziano i rischi derivanti dall'adozione da parte dei governi dell'intelligenza artificiale senza un'adeguata supervisione.
La professoressa di informatica Julia Stoyanovich del Center for Responsible AI della New York University ha criticato l'approccio della città, definendolo sconsiderato e irresponsabile. Sostiene che l'implementazione di software non collaudati senza un'adeguata supervisione pone sfide significative. Nel frattempo, il sindaco Adams sostiene che incontrare problemi è una parte naturale dell'implementazione di nuove tecnologie e suggerisce che risolverli sia fondamentale per il miglioramento.
Richiede responsabilità e miglioramento
Mentre aumentano le preoccupazioni per le inesattezze del chatbot, gli esperti sottolineano la necessità di responsabilità e miglioramento. Rosalind Black, Direttrice del Dipartimento Alloggi di Citywide presso Legal Services NYC, evidenzia la disinformazione del bot in merito alle politiche abitative, sottolineando l'importanza di una guida accurata. Allo stesso modo, professionisti del settore come Andrew Rigie della NYC Hospitality Alliance mettono in guardia dalle potenziali responsabilità derivanti dalla fornitura alle aziende di informazioni legali errate.
Nonostante le critiche, l'Ufficio per la Tecnologia e l'Innovazione di New York City rimane impegnato a migliorare l'accuratezza e l'efficacia del chatbot. Pur riconoscendo i difetti del programma pilota, la portavoce Leslie Brown ne sottolinea l'impatto positivo nel fornire assistenza tempestiva a migliaia di utenti. La città si impegna a continuare a perfezionare lo strumento per supportare al meglio le piccole imprese di New York City .
Il chatbot basato sull'intelligenza artificiale di New York City, progettato per assistere i titolari di piccole imprese, è sotto accusa per aver diffuso informazioni inaccurate e fuorvianti. I critici sollevano preoccupazioni sui potenziali rischi derivanti dall'implementazione della tecnologia di intelligenza artificiale senza un'adeguata supervisione. Tuttavia, i funzionari comunali rimangono impegnati a migliorare le prestazioni del chatbot e a garantirne l'accuratezza nel supportare le esigenze degli imprenditori in tutta la città.
