La ville de New York a lancé sur son site web un chatbot alimenté par la technologie d'intelligence artificielle de Microsoft Azure afin d'aider les utilisateurs à échanger facilement des informations avec les propriétaires de petites entreprises et de simplifier la réglementation municipale.
Le chatbot intelligent a été conçu comme un guichet unique dans l'océan des lois et réglementations municipales, mais au lieu de fournir des informations précieuses, il a généré un débat de plus en plus vif sur son exactitude et, le plus souvent, sur l'absurdité de ses conseils.
L’impact des chatbots sur les conseils juridiques
Le rôle des conseils erronés et des difficultés juridiques est crucial parmi les obstacles quotidiens rencontrés par les startups. C'est précisément l'objectif du chatbot : agir comme un assistant virtuel en temps réel pour les entrepreneurs, en résolvant leurs problèmes administratifs, notamment leurs questions relatives à la réglementation municipale.
Ces directives n'ont pas non plus atteint leurs objectifs en raison d'une mauvaise pondération des normes juridiques, qui contreviennent même, dans certains cas, aux lois de la ville de New York.
La découverte et la confirmation, y compris les tests effectués par Markup, ont montré que les conseils du chatbot allaient de l'illégal – informant les employeurs du vol de pourboires et de la discrimination sexuelle fondée sur la grossesse – au bizarre, par exemple, lorsque le bot a déclaré ouvertement qu'il était permis de tester des aliments picorés par des rats.
L'erreur peut survenir dans divers domaines tels que la politique intérieure, l'indemnisation des travailleurs et les opérations commerciales, ce qui diminue la fiabilité du chatbot en tant que ressource juridique.
Un exemple parmi d'autres : des employeurs ont été informés à tort qu'ils pouvaient gérer des entreprises n'acceptant que les paiementstronet qu'aucune réglementation n'existait concernant les pourboires. Des propriétaires ont reçu des instructions erronées sur les procédures d'expulsion et un manque de considération pour certaines sources de revenus, comme les allocations logement du Département des affaires des anciens combattants. Ce type de recommandations compromet non seulement le statut juridique des entreprises, ce qui constitue une violation de l'éthique, mais soulève également un problème éthique.
Concilier innovation et responsabilité dans le déploiement de l'IA
Plutôt que de dénoncer les risques liés à cette technologie, tels que les biais, la systématisation et le risque de perte de contrôle, les partisans de l'IA à New York, comme le maire Eric Adams entre autres, défendent la mise en œuvre de cette technologie proposée.
Le maire Adams, qui souligne que, pour autant que nous le sachions, le progrès technologique est un long processus qui doit être perfectionné par des efforts continus, nous conseille d'être plus persévérants avec le chatbot.
Comme on pouvait s'y attendre, cette position est non seulement rejetée, mais elle ne parvient pas non plus à se faire reconnaître. Les critiques, menées par Julia Stoyanovich, professeure d'informatique et directrice du Centre pour une IA responsable à l'Université de New York, ont affirmé que le silence imposé par l'administration autour du logiciel, alors déployé sans contrôlematic témoignait d'une indifférence à l'égard d'une gouvernance responsable.
Étant un simple logiciel, le chatbot peut commettre des erreurs ou présenter des biais inhérents. Toutefois, la décision de la ville de maintenir le chatbot en activité et d'entamer la conversation en précisant que ses conseils pourraient ne pas toujours être exacts transfère la responsabilité de la vérification des données aux utilisateurs.
Cette question a donc suscité un débat sur la nécessité de mettre en place des mécanismes suffisants pour garantir que l'IA ne soit pas déployée là où elle n'est pas précise à des fins réglementaires.
plan de mise en œuvre pour les propriétaires de petites entreprises
La situation difficile des entrepreneurs new-yorkais sonne l'alarme : même les technologies basées sur l'IA sont confrontées au problème de la fiabilité. Si l'IA peut réduire la bureaucratie, les erreurs des chatbots mettent en évidence les lacunes en matière de précision et de fiabilité, deux éléments indispensables dans le secteur public.
Les propriétaires de petites entreprises confrontés aux subtilités des règlements municipaux constateront que les programmes de chatbot peuvent détourner les conseils de l'IA pour éviter une évaluation manuelle. Les experts recommandent de faire appel à des juristes pour les questions de conformité et de réglementation, tout en considérant les indications du chatbot comme des solutions préliminaires et non defi.
En définitive, l'émission propose un nouveau paradigme pour l'expérimentation de l'IA dans la ville, préconisant l'adoption des réformes stratégiques nécessaires avant d'entreprendre des interventions technologiques similaires sur son territoire. L'équilibre entre innovation et responsabilité est au cœur du problème : il peut garantir l'intégrité des services publics ou, au contraire, ébranler la confiance de la population.
Les autorités new-yorkaises restent déterminées face à la technologie et continuent de soutenir leur chatbot d'IA, ce qui pourrait fournir des enseignements précieux sur la nécessité de protéger la vie privée. Lorsqu'il s'agit d'IA au service de l'intérêt public, son déploiement doit être responsable, dans le respect de la transparence et avec un objectif d'amélioration continue.
En revanche, les propriétaires de petites entreprises doivent utiliser ces ressources avec une certaine prudence. Ils devraient plutôt se tourner vers les sources juridiques traditionnelles et solliciter leurs conseils.
