Las "alucinaciones" de la IA provocan una queja por privacidad

Noyb, la organización austriaca independiente de protección de datos fundada por el abogado Max Schrems, ha presentado una queja ante la autoridad de privacidad de la UE respecto a OpenAI, por una violación del RGPD y por no proporcionar un recurso para la información incorrecta.

Queja por privacidad presentada

Schrems, un reconocido abogado de privacidad y capaz activista, ha iniciado algunas de las quejas por privacidad más importantes en la UE. OpenAI se enfrenta a la DSB (Sociedad Austriaca de Dominio y Discriminación), cuyo desafío se centra en las "alucinaciones", las respuestas incorrectas que los modelos de lenguaje grande de IA (inteligencia artificial) tienden a proporcionar. El alivio que solicita la orden de adjudicación incluye una investigación de la infracción, una decisión declarativa, una multa y un estudio de medidas correctivas.

La compañía, OpenAI, supuestamente es consciente de la violación de privacidad, pero no importa. Según el comunicado de prensa, la declaración de Noyb está en un anuncio de la presentación de la queja.

Los modelos grandes, incluidos ChatGPT, realizan cálculos para predecir esas palabras que tienen más sentido para ciertas selecciones. Hay casos en los que el modelo selecciona las palabras incorrectas debido a su incapacidad para notar el contexto, dando la respuesta incorrecta o "alucinación", que es jerga de la industria.

Sin embargo, esto no está relacionado con los derechos individuales en las tradiciones de "privacidad", por lo que para Noyb. La regulación europea no ha ido muy lejos al establecer la necesidad de la precisión de los datos personales desde 1995, y el RGPD, la ley de privacidad más reciente de la UE, asume el deber de la protección precisa de los datos personales.

Objetivando las "alucinaciones" de la IA

En esta línea, Noyb señaló que la información personal de cualquier comentarista público sin detalles de fecha de nacimiento está disponible en línea. ChatGPT respondió erróneamente con su fecha principal debido al error en la pregunta.

OpenAI tampoco estaba satisfecha con su respuesta no solicitada respecto al acceso y la eliminación de los datos implicados en la investigación llevada a cabo en diciembre de 2023. Según el RGPD, los responsables del tratamiento deben comunicar al sujeto de la información personal sobre el procesamiento de sus datos y eliminar los datos del sujeto a solicitud, aunque se permiten restricciones sobre la eliminación.

Noyb, que actuó como demandante en el caso, descubrió que el servicio proporcionaba datos estadísticos al usuario; sin embargo, no se proporcionó información sobre el uso de datos por parte del sistema.

Mal manejo de las solicitudes de datos

Como dijo OpenAI, además de entregar un mensaje educativo, prometieron hacer todo lo posible para bloquear el modelo para que no indique el año de nacimiento en respuesta a la consulta; sin embargo, según la queja, no pueden corregir la respuesta incorrecta mostrada.

Esto, a su vez, llevó a que una parte más informativa del sujeto de los datos fuera bloqueada por ChatGPT. Esto, en su significado, obstaculizaría el derecho del público a la información sobre esta persona, una figura conocida, sobre la que OpenAI había informado a través de una objeción.

La demanda decía: "Ninguna acción de un chatbot puede corregir la información, ningún filtro puede seleccionar selectivamente, o simplemente que ningún sujeto de datos puede cumplir con esta situación según el responsable del tratamiento".

Es la sucursal irlandesa la única, y la sede sigue residiendo en EE. UU., dijo Noyb a la jefa de antimonopolio de la UE, Margrethe Vestager. Este demandado fue nombrado en la demanda porque es una entidad de la corporación estadounidense, OpenAI OpCo LLC, que está en los términos y condiciones de la compañía.