Las “alucinaciones” de la IA provocan una queja sobre la privacidad

Noyb, la organización austriaca independientedent protección de datos fundada por el abogado Max Schrems, ha presentado una queja ante la autoridad de privacidad de la UE en relación con OpenAI , alegando una violación del RGPD y la falta de una solución para la información incorrecta.

Se presentó una denuncia por privacidad

Schrems, reconocido abogado especializado en privacidad y activista, ha presentado algunas de las denuncias más importantes en materia de privacidad en la UE. OpenAI se enfrenta al DSB (Organismo Austriaco contra la Dominación y la Discriminación), cuya impugnación se centra en las «alucinaciones», las respuestas erróneas que suelen proporcionar los grandes modelos de lenguaje de la IA (inteligencia artificial). La solicitud de resolución judicial incluye una investigación de la infracción, una decisión declarativa, una sanción y el estudio de medidas correctivas.

La empresa, OpenAI, supuestamente está al tanto de la violación de privacidad, pero eso no importa. Según el comunicado de prensa, la declaración de Noyb figura en un comunicado que anuncia la presentación de la demanda.

Los modelos de gran tamaño, como ChatGPT, realizan cálculos para predecir las palabras más adecuadas para determinadas selecciones. En ocasiones, el modelo selecciona palabras incorrectas debido a su incapacidad para percibir el contexto, lo que genera una respuesta errónea o una «alucinación», término técnico del sector.

Sin embargo, esto no concuerda con los derechos individuales en las tradiciones de “privacidad”, como ocurre con Noyb. La regulación europea no ha avanzado mucho en la definición de la necesidad de exactitud de los datos personales desde 1995, y el RGPD, la ley de privacidad más reciente de la UE, asume el deber de una protección precisa de los datos personales.

Apuntando a las “alucinaciones” de la IA

En este sentido, Noyb señaló que la información personal de cualquier comentarista público, incluso sin conocer su fecha de nacimiento, está disponible en línea. ChatGPT, por error, respondió con su fecha principal debido a una equivocación en la pregunta.

OpenAI tampoco quedó satisfecha con su respuesta no solicitada con respecto al acceso y la supresión de los datos implicados en la investigación de la solicitud realizada en diciembre de 2023. Según el RGPD, los responsables del tratamiento de datos deben informar al interesado sobre el tratamiento de sus datos y suprimir los datos del interesado a petición suya, si bien se permiten restricciones a la supresión.

Noyb, quien actuó como denunciante en el caso, descubrió que el servicio proporcionaba datos estadísticos al usuario; sin embargo, no se facilitaba información sobre el uso de datos por parte del sistema.

Solicitudes de datos mal gestionadas

Como dijo OpenAI, además de transmitir un mensaje educativo, prometieron hacer todo lo posible para evitar que el modelo indicara el año de nacimiento en respuesta a la consulta; sin embargo, según la queja, no pueden corregir la respuesta errónea que se muestra.

a una parte más detallada de la información del interesado ChatGPT. En consecuencia, esto menoscabaría el derecho del público a obtener información sobre esta persona —una figura conocida— a quien OpenAI había denunciado mediante una objeción.

La demanda afirmaba: “Ninguna acción de un chatbot puede corregir la información, ningún filtro puede realizar un análisis selectivo, o simplemente ningún interesado puede adaptarse a esta situación según el responsable del tratamiento”.

Se trata únicamente de la filial irlandesa, y la sede central sigue estando en Estados Unidos, según declaró Noyb a Margrethe Vestager, comisaria europea de Competencia. Esta entidad demandada fue incluida en la demanda por ser una filial de la corporación estadounidense OpenAI OpCo LLC, tal y como se estipula en los términos y condiciones de la empresa.