NYC defiende el chatbot de IA ante críticas y errores legales.

La ciudad de Nueva York lanzó un chatbot en su sitio web que estaba impulsado por la tecnología de IA de Microsoft Azure para ayudar a los usuarios a intercambiar información fácilmente con los propietarios de pequeñas empresas y para hacer que las regulaciones de la ciudad sean fáciles y simples. 

El inteligente chatbot fue concebido como un punto único en el mar de leyes y regulaciones de la ciudad, pero en lugar de proporcionar información valiosa, ha generado un creciente debate caliente sobre la precisión y, más a menudo que no, consejos absurdos.

El impacto de los chatbots en la orientación legal

El papel de los consejos erróneos y los desafíos legales no puede ser exagerado en los obstáculos diarios que enfrentan las startups. Este caso es el objetivo principal del chatbot de actuar como un asistente virtual en "tiempo real" para los empresarios, resolviendo sus problemas burocráticos, incluidas preguntas sobre las regulaciones de la ciudad. 

Las pautas también han fallado en alcanzar sus objetivos por su desequilibrio en los estándares legales, que incluso son contrarios a las leyes de la ciudad de Nueva York en algunos casos.

El descubrimiento y la confirmación, incluidas las pruebas realizadas por The Markup, mostraron que los consejos del chatbot variaban desde lo ilegal, como decir a los empleadores sobre el robo de propinas y la discriminación sexual basada en el embarazo, hasta lo bizarre, por ejemplo, cuando el bot declaró abiertamente que es aceptable probar alimentos picados por ratas. 

El error puede ocurrir en varias áreas como la política doméstica, la compensación de trabajadores y las operaciones comerciales, lo que disminuye la fiabilidad del chatbot como recurso legal.

Uno de los ejemplos es cuando a los empleadores se les informó falsamente que pueden ejecutar negocios que permiten solo medios electrónicos de pago y que no hay reglas para las propinas de los trabajadores. A los propietarios de viviendas se les dio orientación defectuosa sobre el desalojo de inquilinos y el desprecio de fuentes de ingresos como los vales de Vivienda de Apoyo para Veteranos. El mismo tipo de recomendaciones no solo obstaculiza el estatus legal de las empresas, que es una violación de la ética, sino que también conlleva un problema ético.

Equilibrar la innovación y la responsabilidad en el despliegue de IA

Más allá de la amenaza negativa de la tecnología, por ejemplo, los sesgos, la sistematización y la pérdida de control, los defensores de la IA en NYC, como el alcalde Eric Adams entre otros, defienden la implementación de la tecnología propuesta. 

El alcalde Adams, quien enfatiza el hecho de que, por todo lo que sabemos, el avance tecnológico es un proceso largo que debe perfeccionarse mediante intentos continuos, nos aconseja ser más persistentes con el chatbot. 

Tal posición, como es de esperar, no solo carece de aceptación, sino que también falla en ganar reconocimiento. Los críticos, encabezados por Julia Stoyanovich, quien ocupa el cargo de profesora de ciencias de la computación y directora en el Centro de IA Responsable de la Universidad de Nueva York, afirmaron que el silencio administrativo del software que aún se estaba desplegando sin una verificación sistemática reflejaba una indiferencia hacia la gobernanza responsable.

Al ser solo software, el chatbot podría cometer algunos errores o tener sesgos inherentes. Sin embargo, la decisión de la ciudad de mantener el chatbot en funcionamiento y comenzar la conversación con un descargo de responsabilidad de que los consejos del bot pueden no ser siempre precisos, traslada la responsabilidad de verificar los datos a los usuarios. 

Este problema ha provocado un debate sobre si debería haber suficientes mecanismos para garantizar que la IA no se despliegue donde no sea precisa para fines regulatorios.

Plan de implementación para propietarios de pequeñas empresas

La penuria de los emprendedores de la ciudad de Nueva York señala una proverbial 'bandera roja'; incluso la tecnología con IA como base enfrenta el problema de la fiabilidad. La IA tiene la capacidad de reducir la burocracia, pero los errores del chatbot carecen de precisión y fiabilidad indispensables en los usos del sector público.

Los propietarios de pequeñas empresas que enfrentan la acrobacia verbal de los reglamentos de la ciudad encontrarán un caso en el que el programa del bot puede hacer mal uso de los consejos de IA como un botón para una evaluación manual. Los expertos sugieren que es necesario tener profesionales legales humanos para los asuntos de cumplimiento y regulación, mientras que, al mismo tiempo, tomar las pistas recibidas del chatbot como soluciones preliminares, no definitivas.

En resumen, el espectáculo sugiere un nuevo paradigma para el experimento de IA de la ciudad, adoptando las reformas estratégicas necesarias antes de comenzar intervenciones tecnológicas similares en su jurisdicción. En última instancia, el equilibrio entre innovación y responsabilidad parece estar en el núcleo del problema, lo que puede contribuir a la integridad de los servicios públicos o poner en peligro la confianza de la comunidad.

Las autoridades de NYC aún no se ven desalentadas por la tecnología y aún apoyan su chatbot de IA, lo que podría proporcionar lecciones útiles sobre la necesidad de protecciones de privacidad. Cuando se trata de la IA al servicio del interés público, debe desplegarse de manera responsable, junto con la crucial transparencia y con el objetivo de la mejora constante. 

Por otro lado, tales recursos pueden ser utilizados con una dosis saludable de aprensión por los propietarios de pequeñas empresas. En lugar de ello, deberían ceder a las fuentes legales tradicionales y buscar consejo de ellas.