Las alucinaciones de IA trajeron otro problema legal para OpenAI

Noyb, una organización de privacidad, ha presentado una queja contra OpenAI ante la Autoridad de Protección de Datos (APD) de Austria, alegando que su producto ChatGPT infringe numerosas leyes de protección de datos de la UE. La organización afirma que ChatGPT comparte información incorrecta sobre las personas, y el Reglamento General de Protección de Datos (RGPD) de la UE exige que dicha información sea correcta y que se les proporcione pleno acceso a ella.

OpenAI se enfrenta a cargos por incumplimiento del RGPD

Noyb fue fundado por el famoso abogado y activista Max Schrems y afirmó que ChatGPT compartió una fecha de cumpleaños falsa sobre una figura pública famosa y cuando se le pidió permiso para acceder y eliminar datos relacionados con él, Open AI denegó su solicitud.

Noyb afirma que, según el RGPD de la UE, toda información sobre una persona debe ser precisa y tener acceso a información sobre la fuente. Sin embargo, según este RGPD, OpenAI afirma no poder corregir la información en su modelo ChatGPT. La empresa tampoco puede determinar el origen de la información, e incluso desconoce qué datos almacena ChatGPT sobre las personas. 

Noyb afirma que OpenAI es consciente del problema y parece que no le importa, ya que su argumento sobre el tema es que,

“La precisión factual en modelos lingüísticos de gran tamaño sigue siendo un área de investigación activa”

Noyb señaló que la información errónea puede ser tolerable cuando ChatGPT la arroja cuando losdentla usan para sus tareas, pero dijo que es claramente inaceptable para las personas individuales ya que es un requisito de la ley de la UE que los datos personales deben ser precisos. 

Las alucinaciones hacen que los chatbots no cumplan con las regulaciones de la UE

Noyb mencionó que los modelos de IA son propensos a las alucinaciones y hacen información que en realidad es falsa. Cuestionaron el procedimiento técnico de OpenAI para generar información, ya que señaló el razonamiento de OpenAI de que,

“Responde a las solicitudes del usuario prediciendo las siguientes palabras más probables que podrían aparecer en respuesta a cada solicitud”

Noyb sostiene que esto significa que, a pesar de que la empresa tiene amplios conjuntos de datos disponibles para entrenar su modelo, aún así, no puede garantizar que las respuestas proporcionadas a los usuarios sean objetivamente correctas.

El abogado de protección de datos de Noyb, Maartje de Gaaf, dijo:

Inventar información falsa es bastantematic en sí mismo. Pero cuando se trata de información falsa sobre personas, puede tener graves consecuencias

Fuente: Noyb.

También dijo que cualquier tecnología tiene que seguir las leyes y no puede jugar con ellas, ya que según él, si una herramienta no puede producir resultados correctos sobre los individuos, entonces no se puede utilizar para este propósito, además agregó que las empresas aún no están técnicamente capacitadas para crear chatbots que puedan cumplir con las leyes de la UE sobre este tema.

Las herramientas de IA generativa están bajo el estricto escrutinio de los reguladores de privacidad europeos, ya que en 2023 la Autoridad Italiana de Protección de Datos restringió temporalmente la protección de datos. Aún no está claro cuáles serán las consecuencias, pero según Noyb, OpenAI ni siquiera pretende cumplir con la legislación de la UE.