AI Chatbot Les efforts de la ville de New York pour utiliser l'IA dans les opérations gouvernementales se heurtent à une erreur, car la ville aurait réalisé que son chatbot basé sur l'IA fournissait aux entreprises des conseils erronés et, dans certains cas, potentiellement illégaux. Lancé en octobre et censé donner des conseils sur la manière de surmonter les complexités liées aux affaires dans la ville, le chatbot a depuis été critiqué pour ses réponses inexactes, notamment sur les questions liées à la politique du logement et aux droits des travailleurs.
Des informations trompeuses suscitent des inquiétudes
Dans une autre enquête, The Markup a découvert que le chatbot en ligne proposait généralement des informations incomplètes ou carrément fausses sur des sujets critiques tels que la discrimination en matière de logement et les droits des locataires. La question est posée : « Un propriétaire doit-il accepter un locataire qui bénéficie de l'article 8 ou d'une aide au loyer ? Pour cet exemple, cela donne une mauvaise réponse par la négative. Ceci est contraire à la loi de la ville de New York, qui interdit au propriétaire de discriminer les locataires en fonction de leurs sources de revenus, à quelques exceptions près.
Les experts et les défenseurs ont tiré la sonnette d’alarme sur les conséquences potentielles de la désinformation du chatbot. Un expert local en politique du logement a décrit ces erreurs comme étant « dangereusement inexactes » et ayant des conséquences néfastes sur la vie des propriétaires et des locataires. En suivant les conseils du bot, les propriétaires tomberaient dans des pratiques qui violeraient à la fois les lois anti-discrimination et les droits des locataires, aggravant ainsi le problème des inégalités de logement et des injustices économiques pour la ville.
Appels à des mesures correctives
Ces révélations ont suscité des appels pour que la ville examine les defi de son chatbot IA et s’assure qu’il fournit réellement aux utilisateurs des informations exactes et juridiquement valables. Les partisans de ce point de vue soulignent que les mauvais conseils doivent être corrigés, en veillant à ce que des garde-fous soient en place pour que de tels accidents ne se produisent pas dans la vie. Alors que la ville de New York continue de traduire ses progrès technologiques en gouvernance, la responsabilité du plus haut calibre et de la plus grande précision doit dominer, afin de maintenir la confiance du public dans les entreprises et les dent de manière égale.
L’événement met en évidence les complications et les défis qui feraient partie intégrante du déploiement de la technologie de l’IA pour le service public, ce qui nécessite un contrôle qualité rigoureux. Cependant, le déploiement de l’IA devra garantir qu’il existe des moyens tron de contrôler ces informations et d’atténuer les dommages qu’elles entraînent, malgré le potentiel qu’elle offre en termes d’amélioration de l’efficacité et de l’accessibilité. En effet, les villes et les gouvernements continuent de déployer des solutions basées sur l'IA dans lesquelles la transparence, la responsabilité et le respect des normes juridiques doivent toujours être respectés afin de garantir la protection des droits et du bien-être de chaque citoyen.
