Abogado usó ChatGPT para una apelación por asesinato. Inventó testigos que nunca existieron
- ChatGPT inventó testimonios de testigos en un recurso penal por asesinato presentado en Nuevo México por el abogado Stephen Aarons.
- Stephen fue multado con 5.000 dólares y derivado a una junta disciplinaria tras no verificar la presentación del documento.
- El recurso de Oscar Renee Sandoval sigue pendiente y ahora está siendo gestionado por la defensora pública Kim Chavez Cook.
Un abogado de Nuevo México que se defendía de un caso de condena por asesinato usó ChatGPT. Luego presentó un alegato a la Corte Suprema de Nuevo México que contenía declaraciones policiales inventadas y relatos de testigos.
La Corte Suprema de Nuevo México determinó que el abogado Stephen Aarons no verificó el material generado por IA. Los jueces dijeron que el documento “contenía testimonio falso de testigos completamente fabricados”.
El tribunal lo declaró en desacato el miércoles y le ordenó pagar $5.000. Su conducta también será presentada ante un consejo disciplinario de abogados. Los jueces dijeron que Stephen había “demostrado una falta de remordimiento y una falta de preocupación por su cliente”.
Stephen dijo que usó ChatGPT el año pasado para resumir el registro del juicio después de presentar la apelación. Dijo que no se dio cuenta de hasta qué punto iban las “alucinaciones” de la IA ni de cuán confiadamente el software podía producir hechos que nunca ocurrieron.
Jueces de Nuevo México castigan a Stephen después de que ChatGPT inventara testimonio dentro de la apelación por asesinato de Oscar
Stephen, un abogado privado con sede en Santa Fe, representó a Oscar Renee Sandoval. Oscar se declaró no culpable de matar a la madre de sus hijos. Más tarde fue condenado y recibió cadena perpetua el año pasado. Su apelación sigue pendiente.
Stephen supuestamente dijo a los reporteros que el error fue honesto. “Estoy arrepentido pero con la esperanza de que el consejo disciplinario tenga en cuenta que fue un error honesto”, dijo. “Es una lección aprendida para todos los profesionales que dependen de esta tecnología poderosa pero a veces inestable”.
Un número de abogados ya han enfrentado castigos por asistencia de IA descontrolada. Se han presentado casos contra abogados tanto en tribunales estatales como federales debido a alegatos que incluyen casos falsos, referencias y disposiciones legales citadas erróneamente.
La solicitud de Stephen destaca en esta categoría ya que incluye testimonios falsos de testigos en un proceso de apelación.
El caso de Oscar pasó a manos de Kim Chavez Cook, una defensora pública de Nuevo México, el 2 de septiembre. Kim ahora está manejando la apelación mientras el caso permanece abierto.
La familia de Tiru demanda a OpenAI mientras funcionarios de Florida examinan 16.000 chats de ChatGPT vinculados al tiroteo en FSU
La otra batalla judicial involucra a ChatGPT tras el tiroteo en la Universidad Estatal de Florida. Un abogado que representa a la familia del fallecido, Tiru Chabba, ha demandado a OpenAI, ChatGPT y Phoenix Ikner en un tribunal federal.
El caso fue presentado en el Tribunal de Distrito de los Estados Unidos para el Distrito Norte de Florida el domingo. Se afirma que OpenAI debería haber tomado medidas en esta situación.
Los funcionarios de aplicación de la ley en Florida han liberado las transcripciones de ChatGPT de Phoenix. Esto contiene consultas sobre cómo operar un arma, cobertura mediática, el momento más concurrido en FSU, el tiroteo de Columbine y hacerse famoso.
El abogado de la familia de Tiru, Bakari Sellers, dijo que los intercambios se remontan unos 18 meses y suman alrededor de 16.000 “chats perturbadores”.
“Esta es la misma persona que preguntó, ya sabes, cómo puede volverse famoso. Preguntó sobre el tiroteo de Columbine. Preguntó a qué hora debería ir al campus. ¿A qué hora estará la mayoría de la gente allí?”, dijo Bakari.
“Literalmente utilizó OpenAI y ChatGPT como su cómplice, lo utilizó como un recurso para llevar a cabo un asesinato masivo”, añadió Bakari. “No había nada en su lugar para evitar que eso sucediera y por lo tanto se perdieron vidas. Ese es el peligro inherente, tiene que haber algo en su lugar para evitar que eso suceda”.
OpenAI rechazó la responsabilidad por el tiroteo. El portavoz Drew Pusateri dijo que la compañía encontró una cuenta que se cree asociada con Phoenix después de aprender lo que sucedió y compartió proactivamente la información con la policía. Drew dijo que OpenAI sigue cooperando con las autoridades.
“El tiroteo masivo del año pasado en la Universidad Estatal de Florida fue una tragedia, pero ChatGPT no es responsable de este terrible crimen”, dijo Drew.
Dijo que ChatGPT respondió con material factual ya ampliamente disponible a través de fuentes de internet públicas y no promovió comportamiento ilegal o dañino. Drew también mencionó que cientos de millones de personas usan ChatGPT diariamente por razones válidas.
Según Drew, OpenAI está mejorando constantemente sus herramientas que ayudan a reconocer las intenciones de los usuarios, prevenir el mal uso y actuar en caso de cualquier preocupación sobre problemas de seguridad.
La demanda actual llegó después de un caso similar en Florida. El Fiscal General James Uthmeier reveló recientemente que la investigación criminal fue lanzada contra OpenAI y ChatGPT por la Oficina de Fiscalización Estatal.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Jai Hamid
Jai Hamid ha estado cubriendo criptomonedas, mercados bursátiles, tecnología, la economía global y los eventos geopolíticos que afectan a los mercados durante los últimos 6 años. Ha trabajado con publicaciones centradas en blockchain, incluidas AMB Crypto, Coin Edition y CryptoTale, en análisis de mercado, grandes empresas, regulación y tendencias macroeconómicas. Se graduó en la London School of Journalism y ha compartido tres veces sus conocimientos sobre el mercado de criptomonedas en una de las principales cadenas de televisión de África.
