Le chatbot new-yorkais alimenté par l'IA est critiqué pour avoir diffusé de fausses informations

Le chatbot de la ville de New York, basé sur l'intelligence artificielle et conçu pour aider les petits entrepreneurs, est vivement critiqué pour ses conseils inexacts et trompeurs. Malgré ces signalements, le maire Eric Adams a maintenu l'outil sur le site web officiel de la ville, justifiant sa décision tout en reconnaissant ses lacunes.

Les critiques s'intensifient face à des conseils inexacts

Lancé en octobre comme plateforme de ressources pour s'orienter dans les méandres administratifs de la ville, le chatbot a été critiqué pour avoir diffusé des informations erronées sur divers sujets, notamment les politiques de logement, les droits des travailleurs et la réglementation des entreprises. Ses détracteurs affirment que ces réponses inexactes soulignent les risques liés à l'adoption de artificielle sans contrôle suffisant.

Julia Stoyanovich, professeure d'informatique au Centre pour l'IA responsable de l'Université de New York, a critiqué l'approche de la ville, la qualifiant d'imprudente et d'irresponsable. Elle affirme que le déploiement d'un logiciel non éprouvé sans supervision adéquate pose des problèmes considérables. De son côté, le maire Adams soutient que rencontrer des difficultés est inhérent à la mise en œuvre de nouvelles technologies et estime qu'il est essentiel de les résoudre pour progresser.

Appels à la responsabilisation et à l'amélioration

Face aux inquiétudes croissantes concernant les inexactitudes du chatbot, les experts insistent sur la nécessité d'une responsabilisation et d'améliorations. Rosalind Black, directrice du logement à l'échelle de la ville chez Legal Services NYC, souligne les informations erronées diffusées par le bot concernant la politique du logement et insiste sur l'importance de conseils précis. De même, des professionnels du secteur, comme Andrew Rigie de la NYC Hospitality Alliance, mettent en garde contre les risques juridiques liés à la fourniture d'informations juridiques incorrectes aux entreprises.

Malgré les critiques, le Bureau des technologies et de l'innovation de la ville de New York reste déterminé à améliorer la précision et l'efficacité du chatbot. Tout en reconnaissant les imperfections du programme pilote, la porte-parole Leslie Brown souligne son impact positif, qui a permis d'apporter une aide rapide à des milliers d'utilisateurs. La ville s'engage à poursuivre le perfectionnement de cet outil afin de mieux soutenir les petites entreprises de New York.

Le chatbot new-yorkais, basé sur l'intelligence artificielle et destiné à aider les petites entreprises, est critiqué pour diffuser des informations inexactes et trompeuses. Ses détracteurs s'inquiètent des risques potentiels liés au déploiement de cette technologie sans contrôle adéquat. Cependant, les autorités municipales restent déterminées à améliorer les performances du chatbot et à garantir sa fiabilité afin de répondre au mieux aux besoins des entrepreneurs de la ville.