Abogado enfrenta críticas por su excesiva dependencia de ChatGPT en la corte

Un abogado de Nueva York, Steven Schwartz de la firma de abogados Levidow, Levidow & Oberman, ha sido criticado por incorporar ChatGPT, un modelo de lenguaje de IA, en su investigación legal mientras manejaba una demanda contra la aerolínea Avianca. El caso involucra a Robert Mata, quien afirma haber sufrido una lesión causada por un carrito de servicio durante un vuelo con la aerolínea colombiana en 2019, según informó CNN Business el 28 de mayo.

El abogado presentó documentación incorrecta obtenida de ChatGPT

El caso tomó un giro inesperado cuando el juez que supervisaba el procedimiento notó inconsistencias y errores fácticos en la documentación presentada. En un affidavit fechado el 24 de mayo, Schwartz admitió haber utilizado ChatGPT para su investigación legal y afirmó que desconocía la posibilidad de que su contenido contuviera información falsa. Además, declaró que esta era su primera vez utilizando el modelo de IA para investigación legal.

El escrutinio del juez reveló que varios casos presentados por el abogado parecían ficticios, con citas fabricadas y citas internas inexactas. Además, se descubrió que ciertos casos referenciados no existían, y hubo un caso en el que un número de expediente se asoció erróneamente con otro documento judicial.

El abogado expresó su arrepentimiento por confiar en el chatbot de IA sin realizar su debida diligencia. Su affidavit enfatizó que lamenta profundamente haber utilizado inteligencia artificial generativa en el proceso de investigación y se compromete a no repetir la práctica sin una verificación absoluta de autenticidad.

Analistas discuten el potencial de la IA para reemplazar a los humanos

La integración de ChatGPT en los flujos de trabajo profesionales ha sparked un debate continuo sobre su idoneidad y fiabilidad. Aunque la inteligencia de modelos de IA como ChatGPT continúa avanzando, persisten dudas sobre su capacidad para reemplazar completamente a los trabajadores humanos. Syed Ghazanfer, un desarrollador de blockchain, reconoce el valor de ChatGPT pero cuestiona sus habilidades de comunicación como un sustituto completo de la interacción humana. Destaca que los lenguajes de programación fueron creados para abordar requisitos que pueden no transmitirse eficazmente en inglés nativo.

A medida que la tecnología de IA progresa, tanto los desarrolladores como los profesionales navegan el delicado equilibrio entre aprovechar sus capacidades y garantizar la precisión y validez de la información que genera. El caso que involucra a Steven Schwartz y su uso de ChatGPT sirve como un cuento de advertencia, enfatizando la importancia de la supervisión humana y la evaluación crítica en la investigación legal y otros contextos profesionales.

Aunque modelos de IA como ChatGPT pueden ayudar a agilizar ciertas tareas, deben utilizarse junto con la experiencia humana y procesos de verificación exhaustivos para minimizar el riesgo de inexactitudes e información falsa. A medida que se expanden los límites de las capacidades de la IA, sigue siendo esencial que los profesionales ejerzan prudencia y discernimiento al incorporar estas herramientas en su trabajo.