- Una organización defensora de los derechos digitales llamada Noyb ha presentado una denuncia contra OpenAI en Austria por las alucinaciones de su ChatGPT.
- ChatGPT proporcionó información incorrecta sobre el cumpleaños de una figura pública y se negó a eliminar o corregir dichos datos.
- El abogado de Noyb afirma que las empresas no pueden crear chatbots que cumplan con los requisitos de la legislación de la UE.
Una organización de privacidad, Noyb, ha presentado una queja contra OpenAI ante la Autoridad Austriaca de Protección de Datos (DPA) alegando que su producto ChatGPT viola muchas leyes de protección de datos de la UE. La organización afirmó que ChatGPT comparte información incorrecta sobre las personas, y el Reglamento General de Protección de Datos (GDPR) de la UE exige que la información sobre las personas sea correcta, y que se les proporcione acceso completo a la información que les concierne.
OpenAI enfrenta cargos por violación del GDPR
Noyb fue fundada por el famoso abogado y activista Max Schrems, y afirmó que ChatGPT compartió una fecha de nacimiento falsa sobre una figura pública famosa, y cuando se solicitó permiso para acceder y eliminar los datos relacionados con él, su solicitud fue denegada por OpenAI.
Noyb afirma que, según el GDPR de la UE, cualquier información sobre cualquier individuo debe ser precisa y que deben tener acceso e información sobre la fuente, pero según esto, OpenAI dice que no puede corregir la información en su modelo ChatGPT. La empresa tampoco puede indicar de dónde proviene la información, e incluso no sabe qué datos almacena ChatGPT sobre los individuos.
Noyb afirma que OpenAI es consciente del problema y parece no importarle, ya que su argumento sobre el tema es que,
“La precisión factual en los modelos de lenguaje grandes sigue siendo un área de investigación activa.”
Noyb señaló que la información errónea puede ser tolerable cuando ChatGPT la genera mientras los estudiantes la usan para sus tareas, pero dijo que claramente es inaceptable para las personas individuales, ya que es un requisito de la legislación de la UE que los datos personales deben ser precisos.
Las alucinaciones hacen que los chatbots no cumplan con las regulaciones de la UE
Noyb mencionó que los modelos de IA son propensos a alucinaciones y generan información que es realmente falsa. Cuestionaron el procedimiento técnico de OpenAI para generar información, ya que señaló el razonamiento de OpenAI de que,
“respuestas a las solicitudes de los usuarios prediciendo las siguientes palabras más probables que podrían aparecer en respuesta a cada indicación.”
Noyb argumenta que esto significa que, a pesar de que la empresa tiene conjuntos de datos extensos disponibles para entrenar su modelo, aún no puede garantizar que las respuestas proporcionadas a los usuarios sean factualmente correctas.
La abogada de protección de datos de Noyb, Maartje de Gaaf, dijo,
“Inventar información falsa es bastante problemático en sí mismo. Pero cuando se trata de información falsa sobre individuos, pueden haber consecuencias graves.”
Fuente: Noyb.
También dijo que cualquier tecnología debe seguir las leyes y no puede jugar con ellas, ya que, según él, si una herramienta no puede producir resultados correctos sobre individuos, entonces no puede usarse para este propósito; también añadió que las empresas aún no son técnicamente sólidas para crear chatbots que puedan cumplir con las leyes de la UE en este tema.
Las herramientas de IA generativa están bajo estricta supervisión de los reguladores europeos de privacidad, ya que en 2023, la Autoridad Italiana de Protección de Datos (DPA) restringió temporalmente la protección de datos. Aún no está claro cuáles serán los resultados, pero según Noyb, OpenAI ni siquiera pretende cumplir con la legislación de la UE.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad (Disclaimer): La información proporcionada no constituye asesoramiento de inversión. Cryptopolitan.com no asume responsabilidad alguna por las inversiones realizadas basándose en la información contenida en esta página. Recomendamos encarecidamente realizar investigaciones independientes o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Aamir Sheikh
Aamir es un periodista tecnológico con casi seis años de experiencia en los sectores de criptomonedas y tecnología. Se graduó de la Universidad MAJ con un MBA en Finanzas y Marketing. Ahora trabaja con Cryptopolitan, donde informa sobre los últimos desarrollos en los mercados de criptomonedas y predicciones de precios.
