El chatbot de la ciudad de Nueva York, impulsado por IA y diseñado para ayudar a los propietarios de pequeñas empresas, enfrenta fuertes críticas por brindar consejos inexactos y engañosos. A pesar de los informes sobre directrices deficientes, el alcalde Eric Adams ha mantenido la herramienta en el sitio web oficial del gobierno, defendiendo la decisión y reconociendo sus deficiencias.
Aumentan las críticas por consejos inexactos
Lanzado en octubre como un centro de recursos para navegar por el panorama burocrático de la ciudad, el chatbot ha sido objeto de escrutinio por proporcionar información errónea sobre diversos temas, como políticas de vivienda, derechos laborales y regulaciones empresariales. Los críticos argumentan que las respuestas erróneas del bot ponen de relieve los riesgos de que los gobiernos adopten de IA sin la supervisión adecuada.
La profesora de informática Julia Stoyanovich, del Centro para la IA Responsable de la Universidad de Nueva York, ha criticado el enfoque de la ciudad, calificándolo de imprudente e irresponsable. Afirma que la implementación de software no probado sin la supervisión adecuada plantea importantes desafíos. Por su parte, el alcalde Adams sostiene que encontrar problemas es parte natural de la implementación de nuevas tecnologías y sugiere que abordarlos es crucial para la mejora.
Pide rendición de cuentas y mejoras
A medida que aumenta la preocupación por las inexactitudes del chatbot, los expertos enfatizan la necesidad de rendición de cuentas y mejoras. Rosalind Black, directora de Vivienda de la Ciudad de Legal Services NYC, destaca la desinformación del chatbot sobre la política de vivienda y enfatiza la importancia de una orientación precisa. De igual manera, profesionales del sector como Andrew Rigie, de la NYC Hospitality Alliance, advierten sobre las posibles responsabilidades derivadas de proporcionar a las empresas información legal incorrecta.
A pesar de las críticas, la Oficina de Tecnología e Innovación de la Ciudad de Nueva York mantiene su compromiso de mejorar la precisión y la eficacia del chatbot. Si bien reconoce las deficiencias del programa piloto, la portavoz Leslie Brown destaca su impacto positivo al brindar asistencia oportuna a miles de usuarios. La ciudad se compromete a seguir perfeccionando la herramienta para brindar un mejor apoyo a las pequeñas empresas de la ciudad de Nueva York .
El chatbot de la ciudad de Nueva York, impulsado por IA y diseñado para ayudar a los propietarios de pequeñas empresas, se enfrenta a un escrutinio riguroso por difundir información inexacta y engañosa. Los críticos expresan su preocupación por los posibles riesgos de implementar tecnología de IA sin la supervisión adecuada. Sin embargo, las autoridades municipales mantienen su compromiso de mejorar el rendimiento del chatbot y garantizar su precisión para satisfacer las necesidades de los emprendedores de toda la ciudad.
