Nueva York defiende un chatbot de inteligencia artificial en medio de críticas y errores legales.

La ciudad de Nueva York lanzó un chatbot en su sitio web que funciona con la tecnología de inteligencia artificial de Microsoft Azure para ayudar a los usuarios a intercambiar información fácilmente con propietarios de pequeñas empresas y hacer que las regulaciones de la ciudad sean fáciles y sencillas. 

El bot de chat inteligente fue concebido como una solución única en el mar de leyes y regulaciones de la ciudad, pero en lugar de proporcionar información valiosa ha generado un debate cada vez más acalorado sobre su precisión y, la mayoría de las veces, consejos absurdos.

El impacto de los chatbots en la orientación jurídica

El papel de los consejos erróneos y los desafíos legales es fundamental en los obstáculos diarios que enfrentan las startups. En este caso, el objetivo principal del chatbot es actuar como un asistente virtual en tiempo real para los empresarios, resolviendo sus problemas burocráticos, incluyendo preguntas sobre la normativa municipal. 

Las directrices también han fracasado en el logro de sus objetivos debido a su incorrecta ponderación de las normas legales, que en algunos casos incluso contravienen las leyes de la ciudad de Nueva York.

El descubrimiento y la confirmación, incluidas las pruebas realizadas por Markup, mostraron que los consejos del chatbot incluían desde lo ilegal (contarles a los empleadores sobre el robo de propinas y la discriminación sexual basada en el embarazo) hasta lo extraño, por ejemplo, cuando el bot declaró abiertamente que está permitido probar alimentos picoteados por ratas. 

El error puede surgir en diversas áreas, como política interna, compensación laboral y operaciones comerciales, que disminuyen la confiabilidad del chatbot como recurso legal.

Un ejemplo es cuando se informó falsamente a empleadores que podían operar negocios que solo permitían medios de pagotrony que no existían normas para las propinas de los trabajadores. Los arrendadores recibieron directrices erróneas sobre el desalojo de inquilinos y la falta de respeto a fuentes de ingresos como los vales de Vivienda de Apoyo para Veteranos. Este mismo tipo de recomendaciones no solo obstaculiza la legalidad de las empresas, lo cual constituye una violación de la ética, sino que también conlleva un problema ético.

Equilibrar la innovación y la responsabilidad en la implementación de la IA

Frente a las amenazas negativas que plantea la tecnología, como por ejemplo los sesgos, la sistematización y la pérdida de control, los partidarios de la IA en Nueva York, como el alcalde Eric Adams, entre otros, defienden la implementación de la tecnología propuesta. 

El alcalde Adams, quien enfatiza el hecho de que por lo que sabemos, el avance tecnológico es un proceso largo que debe perfeccionarse mediante intentos continuos, nos aconseja ser más persistentes con el chatbot. 

Como era de esperar, esta postura no solo carece de aceptación, sino que tampoco logra reconocimiento. Los críticos, encabezados por Julia Stoyanovich, profesora de informática y directora del Centro para la IA Responsable de la Universidad de Nueva York, afirmaron que el silenciamiento administrativo del software, que seguía desarrollándose sin verificaciónmatic reflejaba una indiferencia hacia la gobernanza responsable.

Al ser solo un software, el chatbot podría cometer errores o tener sesgos inherentes. Sin embargo, la decisión de la ciudad de mantenerlo en funcionamiento e iniciar la conversación con la advertencia de que sus consejos podrían no ser siempre precisos, traslada la responsabilidad de verificar los datos a los usuarios. 

Por lo tanto, esta cuestión ha provocado un debate sobre si deberían existir mecanismos suficientes para garantizar que la IA no se implemente donde no sea precisa para fines regulatorios.

Plan de implementación para propietarios de pequeñas empresas

La difícil situación de los emprendedores de la ciudad de Nueva York es una señal de alerta; incluso la tecnología basada en IA se enfrenta al problema de la fiabilidad. La IA tiene la capacidad de reducir la burocracia, pero los errores de los chatbots presentan características de precisión y fiabilidad indispensables en el sector público.

Los propietarios de pequeñas empresas que se enfrentan a errores verbales con las ordenanzas municipales se encontrarán con casos en los que el programa bot puede abusar de los consejos de la IA como un botón para una evaluación manual. Los expertos sugieren que es necesario contar con profesionales legales humanos para las cuestiones de cumplimiento y regulación, considerando al mismo tiempo las sugerencias recibidas del chatbot como soluciones preliminares, no defi.

En resumen, el programa propone un nuevo paradigma para el experimento de IA de la ciudad, adoptando las reformas estratégicas necesarias antes de iniciar intervenciones tecnológicas similares en su jurisdicción. En definitiva, el equilibrio entre innovación y responsabilidad aborda la raíz del problema, que puede contribuir a la integridad de los servicios públicos o comprometer la confianza de la comunidad.

Las autoridades de Nueva York siguen firmes ante la tecnología y siguen apoyando su chatbot de IA, que podría aportar lecciones útiles sobre la necesidad de proteger la privacidad. En lo que respecta a la IA al servicio del interés público, debe implementarse de forma responsable, con la transparencia como prioridad y con el objetivo de mejorar constantemente. 

Por otro lado, los propietarios de pequeñas empresas pueden utilizar estos recursos con cierta aprensión. Deberían, en cambio, recurrir a las fuentes legales tradicionales y buscar su asesoramiento.