- El chatbot de IA de NYC desinforma a las empresas, planteando riesgos legales al ofrecer consejos inexactos sobre temas críticos como la discriminación en la vivienda.
- Los expertos advierten sobre las orientaciones "peligrosamente inexactas" proporcionadas por el chatbot, destacando posibles violaciones de las leyes antidiscriminación y los derechos de los inquilinos.
- Las llamadas para tomar medidas correctivas enfatizan la necesidad de responsabilidad y precisión al implementar tecnología de IA para servicios públicos, con el fin de mantener la confianza pública y salvaguardar los derechos ciudadanos.
El esfuerzo de la ciudad de Nueva York de usar IA en las operaciones gubernamentales se está topando con un error, ya que la ciudad ha descubierto que su chatbot basado en IA está proporcionando a las empresas consejos incorrectos y, en algunos casos, potencialmente ilegales. Lanzado en octubre y pretendiendo asesorar sobre cómo navegar por las complejidades de hacer negocios en la ciudad, el chatbot ha sido criticado por sus respuestas inexactas, especialmente en temas relacionados con la política de vivienda y los derechos de los trabajadores.
La información engañosa genera preocupaciones
En otra investigación, The Markup descubrió que el chatbot en línea generalmente ofrecía información incompleta o directamente incorrecta sobre temas críticos como la discriminación de vivienda y los derechos de los inquilinos. Se hace la pregunta: “¿Debería un propietario aceptar a un inquilino que tiene la Sección 8 o asistencia de alquiler?” Para este ejemplo, da una respuesta incorrecta en negativo. Esto es contrario a la ley de la ciudad de Nueva York, que prohíbe al propietario discriminar a los inquilinos por fuentes de ingreso, con solo unas pocas excepciones.
Los expertos y defensores han planteado alarmas sobre las posibles consecuencias de la desinformación del chatbot. Un experto en política de vivienda local describió los errores como “peligrosamente inexactos” con implicaciones que impactan la vida tanto para propietarios como para inquilinos. Al seguir las indicaciones del bot, los propietarios caerían en prácticas que violarían tanto las leyes antidiscriminación como los derechos de los inquilinos, empeorando así el problema de las desigualdades de vivienda y las injusticias económicas para la ciudad.
Llamados a la acción correctiva
Las revelaciones han generado llamados para que la ciudad examine las deficiencias de su chatbot de IA y asegure que realmente esté proporcionando a los usuarios información precisa y legalmente sólida. Los defensores de esta opinión subrayan que los malos consejos deben ser reparados, asegurando que existan salvaguardas para que, en la vida, este tipo de accidentes no ocurran. A medida que la ciudad de Nueva York continúa traduciendo sus avances tecnológicos a la gobernanza, la responsabilidad con el más alto calibre y precisión debe dominar, manteniendo la confianza pública para empresas y residentes por igual.
El evento pone de manifiesto las complicaciones y desafíos que serían parte e integrante de implementar tecnología de IA para servicios públicos, algo que requiere un control de calidad riguroso. Sin embargo, la implementación de IA necesitará asegurar que existan formas sólidas de realizar verificaciones con esta información y mitigar el daño que contiene, a pesar del potencial que ofrece para mejorar la eficiencia y la accesibilidad. Esto es mientras las ciudades y los gobiernos continúan implementando soluciones impulsadas por IA, donde la transparencia, la responsabilidad y el cumplimiento de los estándares legales deben seguir observándose en el proceso de asegurar que los derechos y el bienestar de cada ciudadano estén protegidos.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
John Palmer
John Murangiri llegó a Cryptopolitan con habilidades en análisis de mercado. John (también conocido como JP) se graduó de la Universidad de Nairobi con un título de licenciatura en comunicación masiva y estudios de medios. Anteriormente, ha contribuido con perspectivas del mercado de criptomonedas a InsideBitcoins.com y Metacoingraph.
