- ChatGPT aún no cumple con los estándares de precisión de datos de la UE, según un nuevo informe.
- La UE afirma que los esfuerzos de OpenAI para llevar a ChatGPT al cumplimiento normativo son «insuficientes».
- Se ha puesto en duda el compromiso de OpenAI con la seguridad de los usuarios.
ChatGPT, el chatbot viral de OpenAI, aún no cumple con los estándares de precisión de datos de la Unión Europea, según un nuevo informe del organismo de protección de datos de la UE.
También lea: La Ley de IA de Europa obtiene la aprobación final con multas de hasta $38M
El informe de la Junta Europea de Protección de Datos (EDPB) no es un documento jurídico. Sin embargo, informará un enfoque común para regular ChatGPT en los 27 Estados miembros de la UE.
ChatGPT no cumple con los estándares de datos
Los organismos de vigilancia nacionales formaron el 'grupo de trabajo de ChatGPT' el año pasado bajo el estímulo de casos en curso en varios países europeos contra el modelo de IA. El grupo de trabajo depende de la EDPB.
En un informe publicado el 24 de mayo, el grupo de trabajo declaró:
“Aunque las medidas adoptadas para cumplir con el principio de transparencia son beneficiosas para evitar malentendidos sobre la salida de ChatGPT, no son suficientes para cumplir con el principio de precisión de los datos.”
Los modelos de lenguaje grandes, o LLM, son notorios por “alucinar”, término técnico para cuando los chatbots de IA arrojan falsedades, a menudo con confianza.
Los chatbots como ChatGPT o Gemini de Google están impulsados por modelos de lenguaje grandes (LLM). Bajo la estricta Reglamento General de Protección de Datos (GDPR) de Europa, los usuarios pueden demandar por ser presentados de forma errónea o negados la oportunidad de corregir información inexacta sobre sí mismos.
Según el informe del grupo de trabajo, “Debido a la naturaleza probabilística del sistema (IA), el enfoque de entrenamiento actual conduce a un modelo que también puede producir salidas sesgadas o inventadas.”
“Las salidas proporcionadas por ChatGPT probablemente sean tomadas como factualmente precisas por los usuarios finales, incluida la información relacionada con individuos, independientemente de su precisión real”, añadió.
La UE se aferra al cumplimiento
OpenAI ha citado anteriormente la complejidad técnica por su fracaso en corregir la desinformación, pero el organismo de vigilancia de la Unión Europea se está aferrando más.
“En particular, la imposibilidad técnica no puede invocarse para justificar el incumplimiento de estos requisitos”, señaló el grupo de trabajo.
En un caso recién abierto, una figura pública austriaca está demandando a ChatGPT por no corregir su fecha de nacimiento. OpenAI dijo que hacerlo no sería técnicamente factible, pero este nuevo informe ejercerá más presión sobre el modelo de IA.
Un abogado de protección de datos vinculado al caso, Maartje de Graaf, declaró que las empresas actualmente no pueden hacer que los chatbots de IA cumplan con la legislación de la UE al procesar datos sobre individuos.
“Si un sistema no puede producir resultados precisos y transparentes, no puede utilizarse para generar datos sobre individuos. La tecnología debe cumplir con los requisitos legales, no al revés”, declaró de Graaf.
Preocupaciones de seguridad en OpenAI
Los expertos dicen que ChatGPT requerirá cambios ambiciosos para evitar infringir el RGPD, que regula la protección de datos en la Unión Europea.
Las reglas también proporcionan un modelo de trabajo para las leyes de datos en Argentina, Brasil, Chile, Japón, Kenia, Mauricio, Sudáfrica, Corea del Sur, Turquía y el Reino Unido.
También lea: OpenAI Descarta ChatGPT Voice Tras Controversia con Scarlett Johansson
Mientras tanto, el compromiso de OpenAI con la seguridad del usuario ha sido cuestionado.
La compañía ha sido golpeada por una serie de renuncias de alto perfil, con la salida del cofundador Ilya Sutskever, Gretchen Krueger, Jan Leike y una media docena de otros, lo que plantea el caso de un cambio cultural.
A principios de esta semana, OpenAI anunció la suspensión de la voz de ChatGPT 'Sky' después de que surgieran preocupaciones de que se parecía a la voz de la actriz Scarlett Johansson en la película de temática de IA, Her.
Reporte de Cryptopolitan por Jeffrey Gogo
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Jeffrey Gogo
Jeffrey Gogo es un periodista con 20 años de experiencia en noticias y análisis de negocios, finanzas y cambio climático. Su trabajo ha sido destacado por la Fundación Thomson Reuters, The Zimbabwe Herald y varias publicaciones en línea. También ha escrito extensamente sobre IA y el metaverso, y comenzó a cubrir los mercados de criptomonedas en 2017. Gogo estudió periodismo y comunicación masiva en CCOSA en Harare.
