Al menos siete familias en EE. UU. han demandado a OpenAI por su modelo de IA GPT-4o, que contribuye a las muertes por suicidio. OpenAI lanzó el modelo en mayo para uso público general, pero hasta la fecha ha recibido críticas, ya que los acusadores alegan una publicación apresurada y medidas de seguridad inadecuadas.
Los documentos presentados ante el caso mostraron que cuatro de los demandantes sufrieron muertes por suicidio después de interacciones con el chatbot impulsado por GPT-4o.
Una denuncia notable involucró a Zane Shamblin, de 23 años, quien presuntamente interactuó con el chatbot sobre el suicidio, diciéndole que tenía un arma cargada. ChatGPT supuestamente respondió con un "Tranquilo, King, lo hiciste bien" durante el intercambio.
Los otros tres casos incluyeron la hospitalización de víctimas que afirmaron que el modelo validó y aumentó los delirios en los usuarios vulnerables.
Las quejas legales afirman que GPT-4o no protegió a los usuarios vulnerables
Según las denuncias publicadas por el Social Media Victims Law Center, OpenAI evitó intencionadamente las pruebas de seguridad y lanzó el modelo GPT-40 al mercado de forma precipitada. La demanda reveló que las decisiones de diseño del modelo y el calendario de lanzamiento hicieron previsibles las tragedias, señalando que OpenAI aceleró su implementación para superar a competidores como Google.
Los demandantes señalaron que el modelo GPT-4o, publicado en mayo de 2024, era excesivamente agradable incluso en respuestas a temas de autolesión o suicidio. Más de un millón de usuarios interactúan con ChatGPT cada semana con pensamientos suicidas, según una divulgación de OpenAI.
de OpenAI La respuesta indicó que sus medidas de seguridad son más fiables en interacciones breves, pero que a veces pueden fallar en interacciones prolongadas. A pesar de que la empresa implementó medidas de moderación de contenido y seguridad, los demandantes argumentaron que los sistemas eran insuficientes para abordar problemas relacionados con la angustia y la crisis.
En el caso de la familia de Adam Raine, de 16 años, se alega que Raine utilizó ChatGPT durante cinco meses en largas sesiones investigando métodos de suicidio. El chatbot recomendaba ayuda profesional, pero Raine logró eludir las medidas de seguridad, según el testimonio. De acuerdo con este testimonio, ChatGPT le proporcionó a Adam una guía paso a paso sobre cómo suicidarse y, además, alentó y validó sus ideas suicidas.
Todos los casos presentados acusan a OpenAI de ignorar el grado de riesgo que representan las conversaciones prolongadas entre usuarios, especialmente para aquellos con propensión a la autolesión y a sufrir problemas mentales. Los casos argumentan que el modelo GPT-4o no verificó adecuadamente sus respuestas en escenarios de alto riesgo ni tuvo en cuenta plenamente las consecuencias.
OpenAI enfrenta múltiples demandas mientras xAI lanza una demanda por secretos comerciales
Hasta el momento, los casos se encuentran en una etapa inicial, y los abogados del demandante deben establecer la responsabilidad legal y la causalidad según la ley estatal de responsabilidad civil. Los abogados también deberán demostrar que las decisiones de diseño e implementación de OpenAI fueron negligentes y contribuyeron directamente a las muertes.
La última demanda de OpenAI se suma a la anterior demanda por robo de secretos comerciales interpuesta por Elon Musk. Según un Cryptopolitan informe, xAI, la empresa de Musk, presentó una demanda en septiembre contra OpenAI por el presunto robo de sus secretos comerciales.
xAI acusó a la empresa de Altman de intentar obtener una ventaja injusta en el desarrollo de tecnologías de IA. xAI señaló que la empresa de Sam Altman tenía la intención de contratar a sus empleados para acceder a secretos comerciales relacionados con su chatbot Grok, incluido el código fuente y las ventajas operativas en el lanzamiento de centros de datos.
Musk también demandó a Apple, junto con OpenAI, por supuestamente colaborar para aplastar a xAI y otros rivales de IA. xAI presentó la demanda en el Tribunal de Distrito de Estados Unidos para el Distrito Norte de Texas, alegando que Apple y OpenAI están usando su dominio para coludir y destruir la competencia en los mercados de teléfonos inteligentes e IA generativa.
Según un Cryptopolitan informe, Musk afirma que Apple favoreció intencionadamente a OpenAI al integrar ChatGPT directamente en iPhones, iPads y Macs, mientras que adquiría otras herramientas de IA, como Grok, a través de la App Store.
de xAI La demanda argumentaba que la asociación tenía como objetivo excluir a la competencia de las superaplicaciones y los chatbots de IA, negándoles así visibilidad y acceso, lo que otorgaría a OpenAI y Apple una ventaja compartida sobre los demás.
