ChatGPT recibe una queja por privacidad por alucinaciones difamatorias

El chatbot de OpenAI, ChatGPT, está bajo investigación en Europa por quejas de privacidad. Ha mostrado una tendencia a alucinar información falsa. ¿Peligroso, no? Este podría ser difícil de ignorar para los reguladores.

Una persona en Noruega está recibiendo ayuda del Centro Europeo de Derechos Digitales, Noyb, después de encontrar que ChatGPT devolvía información falsa. El chatbot dijo que había sido declarado culpable de matar a dos de sus hijos e intentar matar a un tercero. Esta información podría alcanzarlo más tarde.

Lo más loco es que OpenAI no ofrece a las personas una manera de corregir la información incorrecta que la IA inventa sobre ellas. En cambio, OpenAI ofrece bloquear respuestas a este tipo de preguntas. La pregunta principal es si la información se descarta o podría generarse más tarde.

Por otro lado, el Reglamento General de Protección de Datos (RGPD) de la Unión Europea otorga a las personas acceso a sus datos y el derecho a corregir sus datos personales. Otra parte de esta ley de seguridad de datos dice que las personas a cargo de los datos personales deben asegurarse de que sean correctos. Esto convierte este asunto en un caso.

Joakim Söderberg, abogado de protección de datos en Noyb, dijo, «El RGPD es claro. Los datos personales deben ser precisos. […] Si no lo son, los usuarios tienen derecho a que se cambien para reflejar la verdad.»

Añadió, «Mostrar a los usuarios de ChatGPT una pequeña advertencia de que el chatbot puede cometer errores claramente no es suficiente. No puedes simplemente difundir información falsa y al final añadir una pequeña advertencia diciendo que todo lo que dijiste podría no ser cierto.»

Detalles de las investigaciones en curso

El chatbot cuenta una triste historia sobre Arve Hjalmar Holmen cuando se le pregunta quién es. Dice que fue declarado culpable de asesinato infantil y condenado a 21 años de prisión por matar a dos de sus propios hijos.

Ahora, ¿por qué esto es aún más peligroso? Aunque no es cierto que Hjalmar Holmen sea un asesino de niños, Noyb señala que la respuesta de ChatGPT incluye algunas verdades. Por ejemplo, la persona en cuestión tiene tres hijos.

El chatbot también identificó correctamente los géneros de sus hijos y nombró correctamente su ciudad natal. Sin embargo, el hecho de que la IA también inventara mentiras tan terribles lo hace aún más extraño y perturbador.

Un representante de Noyb dijo que no sabían por qué el chatbot inventaba un trasfondo tan detallado pero falso para esta persona. Un portavoz dijo que investigaron para asegurarse de que no fuera solo una confusión con otra persona. El portavoz dijo que habían revisado archivos de periódicos pero no pudieron encontrar una razón por la que la IA inventara el asesinato de niños.

En este punto, la mejor explicación es que los modelos de lenguaje grandes, como el que impulsa ChatGPT, básicamente hacen predicción de la siguiente palabra a una escala enorme. 

Debido a esto, los conjuntos de datos utilizados para entrenar la herramienta contenían muchas historias de filicidio que afectaron las palabras que eligió para responder a una pregunta sobre un hombre nombrado. Sin embargo, sin importar cuál sea la razón, está claro que este tipo de salidas no están bien en absoluto.

Mientras tanto, Noyb indica que el chatbot dejó de contar mentiras peligrosas sobre Hjalmar Holmen después de que el modelo de IA que lo ejecuta se actualizara. Este cambio está relacionado con el hecho de que la herramienta ahora busca información en internet sobre las personas cuando se le pregunta quiénes son.

Aunque ChatGPT parece haber dejado de difundir mentiras dañinas sobre Hjalmar Holmen, tanto Noyb como Hjalmar Holmen siguen preocupados. ¿Qué pasa si el modelo de IA pudo haber mantenido información incorrecta y dañina sobre él?

La autoridad noruega de protección de datos ha recibido una queja contra OpenAI. Noyb espera que el organismo de supervisión decida que tiene la autoridad para investigar ya que la queja está dirigida a la sucursal de EE. UU. de OpenAI. La queja establece que su oficina en Irlanda no es la única responsable de las decisiones de producto que afectan a los europeos.

El destino de OpenAI

Esto no es lo primero para OpenAI. Las personas se han quejado previamente de la creación de datos personales incorrectos por parte de ChatGPT, como una fecha de nacimiento incorrecta o información biográfica errónea. 

El organismo de supervisión de protección de datos de Italia intervino temprano bajo el RGPD y detuvo temporalmente el acceso a ChatGPT en el país en la primavera de 2023. Esto obligó a OpenAI a cambiar cosas, como la información que proporciona a los usuarios. Después de eso, el organismo multó a OpenAI con 15 millones de euros por usar datos de personas sin una razón válida para hacerlo.

También es interesante que el organismo de supervisión de protección de datos de Polonia haya estado investigando una queja de privacidad contra ChatGPT desde septiembre de 2023 y aún no haya tomado una decisión.

Desde entonces, los funcionarios de privacidad en Europa se han vuelto más cautelosos con la IA generativa. Esto se debe a que aún están averiguando la mejor manera de aplicar el RGPD a estas populares herramientas de IA.

Sin embargo, en una queja anterior sobre Noyb ChatGPT, la Comisión de Protección de Datos de Irlanda (DPC) dijo hace dos años que las personas no deberían apresurarse a prohibir herramientas de IA generativa, por ejemplo. La DPC es la encargada de hacer cumplir el RGPD. En cambio, esto significa que los funcionarios deberían tomarse su tiempo para averiguar cómo funciona la ley.

Parece que la nueva queja de Noyb contra ChatGPT está destinada a despertar a los funcionarios de privacidad ante los peligros de las IAs que alucinan. Las violaciones confirmadas del RGPD pueden llevar a multas de hasta el 4% de la facturación anual global.