ChatGPT recibe una queja por privacidad debido a alucinaciones difamatorias

El chatbot de Open AI, ChatGPT, está siendo investigado en Europa por quejas sobre privacidad. Ha mostrado una tendencia a alucinar con información falsa. ¿Peligroso, no? A los reguladores podría resultarles difícil ignorarlo.

Una persona en Noruega está recibiendo ayuda del Centro Europeo de Derechos Digitales ( Noyb) tras descubrir que ChatGPT devolvía información falsa. El chatbot afirmó haber sido declarado culpable de asesinar a dos de sus hijos e intentar asesinar a un tercero. Esta información podría alcanzarlo más adelante.

Lo curioso es que OpenAI no permite a las personas corregir la información errónea que la IA crea sobre ellas. En cambio, ofrece bloquear las respuestas a este tipo de preguntas. La pregunta principal es si la información se descarta o podría generarse posteriormente.

Por otro lado, el Reglamento General de Protección de Datos (RGPD) de la Unión Europea otorga a las personas acceso a sus datos y el derecho a la corrección de sus datos personales. Otra parte de esta ley de seguridad de datos establece que quienes estén a cargo de datos personales deben asegurarse de que sean correctos. Esto convierte este asunto en un asunto de gran importancia.

Joakim Söderberg, abogado especializado en protección de datos de Noyb, afirmó: «El RGPD es claro. Los datos personales deben ser exactos. […] Si no lo son, los usuarios tienen derecho a que se modifiquen para que reflejen la verdad».

Añadió: «Mostrar a los usuarios de ChatGPT una pequeña advertencia de que el chatbot puede cometer errores claramente no es suficiente. No se puede simplemente difundir información falsa y, al final, añadir una pequeña advertencia diciendo que todo lo que se ha dicho puede no ser cierto».

Detalles de las investigaciones en curso

El chatbot cuenta una triste historia sobre Arve Hjalmar Holmen cuando se le pregunta quién es. Dice que fue declarado culpable de asesinato infantil y condenado a 21 años de prisión por matar a dos de sus propios hijos.

Ahora bien, ¿por qué es esto aún más peligroso? Aunque no es cierto que Hjalmar Holmen sea un asesino de niños, Noyb señala que la respuesta de ChatGPT sí incluye algunas verdades. Por ejemplo, la persona en cuestión sí tiene tres hijos.

El chatbot tambiéndentcorrectamente el género de sus hijos y nombró correctamente su ciudad natal. Sin embargo, el hecho de que la IA también inventara mentiras tan terribles lo hace aún más extraño y perturbador.

Un representante de Noyb afirmó desconocer por qué el chatbot inventó antecedentes tan detallados, pero falsos, de esta persona. Un portavoz indicó que investigaron para asegurarse de que no se tratara de una simple confusión con otra persona. El portavoz indicó que revisaron archivos de periódicos, pero no encontraron ninguna razón por la que la IA inventara el asesinato del niño.

En este punto, la mejor explicación es que los modelos de lenguaje grandes, como el que impulsa ChatGPT, básicamente hacen predicciones de la siguiente palabra a gran escala. 

Por ello, los conjuntos de datos utilizados para entrenar la herramienta contenían numerosas historias de filicidio que afectaban las palabras elegidas para responder a una pregunta sobre un hombre. Sin embargo, sea cual sea el motivo, es evidente que este tipo de resultados no son adecuados en absoluto.

Mientras tanto, Noyb afirma que el chatbot dejó de decir mentiras peligrosas sobre Hjalmar Holmen tras la actualización del modelo de IA que lo ejecuta. Este cambio se debe a que la herramienta ahora busca información sobre las personas en internet cuando se les pregunta quiénes son.

Aunque ChatGPT parece haber dejado de difundir mentiras dañinas sobre Hjalmar Holmen, tanto Noyb como Hjalmar Holmen siguen preocupados. ¿Y si el modelo de IA hubiera ocultado información errónea y perjudicial sobre él?

La autoridad noruega de protección de datos ha recibido una denuncia contra OpenAI. Noyb espera que el organismo de control determine que tiene la facultad de investigar, ya que la denuncia se dirige a la sucursal estadounidense de OpenAI. La denuncia afirma que su oficina en Irlanda no es la única responsable de las decisiones sobre productos que afectan a los europeos.

El destino de OpenAI

Esta no es la primera vez que ocurre esto en OpenAI. Anteriormente, se han presentado quejas sobre la creación de datos personales incorrectos por parte de ChatGPT, como fechas de nacimiento o biografías incorrectas. 

El organismo de control de protección de datos de Italia intervino anticipadamente en virtud del RGPD y suspendió temporalmente el acceso a ChatGPT en el país en la primavera de 2023. Esto provocó que OpenAI modificara aspectos como la información que proporciona a los usuarios. Posteriormente, el organismo de control impuso a OpenAI una multa de 15 millones de euros por utilizar datos personales sin una razón válida.

También es interesante que el organismo de control de protección de datos de Polonia ha estado investigando una queja de privacidad contra ChatGPT desde septiembre de 2023 y aún no ha tomado una decisión.

Desde entonces, las autoridades de privacidad en Europa se han vuelto más cautelosas con GenAI. Esto se debe a que aún están analizando la mejor manera de aplicar el RGPD a estas populares herramientas de IA.

Sin embargo, en una queja anterior sobre Noyb ChatGPT, la Comisión de Protección de Datos de Irlanda (CPD) declaró hace dos años que no se debería apresurar la prohibición de las herramientas GenAI, por ejemplo. La CPD es la encargada de aplicar el RGPD. Esto significa que las autoridades deberían dedicar tiempo a comprender cómo funciona la ley.

Parece que la nueva denuncia de Noyb sobre ChatGPT busca alertar a las autoridades de privacidad sobre los peligros de las IA que alucinan. Las infracciones confirmadas del RGPD pueden conllevar multas de hasta el 4 % de la facturación anual global.