Cargando...

Chatbot de IA de Nueva York bajo fuego por desinformar a las empresas

TL;DR

  • El chatbot de inteligencia artificial de la ciudad de Nueva York desinforma a las empresas, lo que plantea riesgos legales al ofrecer consejos inexactos sobre cuestiones críticas como la discriminación en materia de vivienda.
  • Los expertos advierten sobre la orientación "peligrosamente inexacta" proporcionada por el chatbot, destacando posibles violaciones de las leyes contra la discriminación y los derechos de los inquilinos.
  • Los llamados a tomar medidas correctivas enfatizan la necesidad de responsabilidad y precisión en el despliegue de tecnología de inteligencia artificial en los servicios públicos para mantener la confianza pública y salvaguardar los derechos de los ciudadanos.

AI Chatbot El esfuerzo de la ciudad de Nueva York por utilizar la IA en operaciones gubernamentales está resultando un error garrafal, ya que, según se informa, la ciudad se ha dado cuenta de que su chatbot basado en IA está brindando a las empresas consejos incorrectos y, en algunos casos, potencialmente ilegales. Lanzado en octubre y con la intención de asesorar sobre cómo sortear las complejidades de hacer negocios en la ciudad, el chatbot ha sido criticado desde entonces por sus respuestas inexactas, especialmente en cuestiones relacionadas con la política de vivienda y los derechos de los trabajadores.

La información engañosa genera preocupación

En otra investigación más, The Markup descubrió que el chatbot en línea solía ofrecer información incompleta o totalmente errónea sobre temas críticos como la discriminación en materia de vivienda y los derechos de los inquilinos. Se hace la pregunta: "¿Debería un propietario aceptar a un inquilino que tenga la Sección 8 o asistencia para el alquiler?" Para este ejemplo, da una respuesta incorrecta y negativa. Esto es contrario a la ley de la ciudad de Nueva York, que prohíbe al propietario discriminar a los inquilinos por fuentes de ingresos, con sólo unas pocas excepciones.

Expertos y defensores han dado la alarma sobre las posibles consecuencias de la desinformación del chatbot. Un experto en política de vivienda local describió los errores como “peligrosamente inexactos” con implicaciones que afectan la vida tanto de los propietarios como de los inquilinos. Siguieran la guía del bot, los propietarios caerían en prácticas que violarían tanto las leyes antidiscriminatorias como los derechos de los inquilinos, empeorando así el problema de las desigualdades en materia de vivienda y las injusticias económicas para la ciudad.

Pide medidas correctivas

Las revelaciones han generado llamados para que la ciudad investigue las defi de su chatbot de IA y se asegure de que realmente esté brindando a los usuarios información precisa y legalmente sólida. Los defensores de este punto de vista subrayan que los malos consejos deben corregirse, garantizando que existan salvaguardias para que en la vida no ocurran este tipo de percances. A medida que la ciudad de Nueva York continúa trasladando sus avances en tecnología a la gobernanza, debe prevalecer la rendición de cuentas con el más alto calibre y precisión, manteniendo la confianza pública para las empresas y los dent por igual.

El evento pone de relieve las complicaciones y desafíos que serían parte integral del despliegue de tecnología de inteligencia artificial para el servicio público, algo que requiere un riguroso control de calidad. Sin embargo, el despliegue de la IA necesitará garantizar que existan formas tron de realizar comprobaciones con esta información y mitigar el daño que conlleva, a pesar del potencial que ofrece para mejorar la eficiencia y la accesibilidad. Esto ocurre mientras las ciudades y los gobiernos continúan implementando soluciones impulsadas por la IA mediante las cuales aún se deben observar la transparencia, la rendición de cuentas y el cumplimiento de las normas legales en el proceso de garantizar que se salvaguarden los derechos y el bienestar de cada ciudadano.

Descargo de responsabilidad. La información proporcionada no es un consejo comercial. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas en función de la información proporcionada en esta página. Recomendamos tron dent independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.

Compartir enlace:

Juan Palmero

John Palmer es un criptoescritor entusiasta interesado en Bitcoin , Blockchain y análisis técnico. Con un enfoque en el análisis de mercado diario, su investigación ayuda a los comerciantes e inversores por igual. Su interés particular en las billeteras digitales y blockchain ayuda a su audiencia.

Cargando los artículos más leídos...

Manténgase al tanto de las noticias sobre criptomonedas y reciba actualizaciones diarias en su bandeja de entrada

Noticias relacionadas

AI
criptopolitano
Suscríbete a CryptoPolitan