Los investigadores exponen fallas en las directrices de IA de la UE
Borrador de la Ley de IA de la UE actualizado con prohibición pública del reconocimiento facial
- Investigadores de la Universidad de Stanford indican que grandes empresas tecnológicas, incluidas OpenAI, Meta y Google, podrían no cumplir con las directrices de IA provisionales de la UE.
- El estudio se centra en la posible violación de las leyes de derechos de autor por parte de la industria, ya que muchas herramientas de IA utilizan contenido protegido para su entrenamiento.
- Según las propuestas del Reglamento de IA de la UE, los desarrolladores de herramientas de IA deben revelar el contenido generado por IA y resumir los datos protegidos por derechos de autor utilizados en el entrenamiento.
Una investigación reciente realizada por investigadores de la Universidad de Stanford revela que las principales empresas tecnológicas, incluidas OpenAI, creadoras de ChatGPT, Meta (anteriormente Facebook) y Google, podrían enfrentar conflictos con los proyectos de reglamentación de la UE sobre el despliegue y uso de la inteligencia artificial (IA).
El drama de la regulación de IA de la UE
El estudio de investigación de Stanford, dirigido por el investigador de IA Rishi Bommasani, descubre una tormenta en ciernes entre la industria multimillonaria, defendida por los políticos por la seguridad nacional, y las autoridades internacionales comprometidas con mitigar sus riesgos potenciales.
El documento destaca especialmente que estas corporaciones no están cumpliendo adecuadamente con las directrices provisionales, particularmente en lo que respecta a las leyes de derechos de autor.
Las herramientas de IA generativa, que son aplicaciones de software desarrolladas utilizando vastos recursos de datos para generar texto, código e imágenes similares a los humanos, han crecido a un ritmo exponencial.
Estos modelos de IA, como ChatGPT, Bard y Midjourney, a menudo dependen de contenido con derechos de autor para fines de entrenamiento.
Según las propuestas de la Ley de IA de la UE, los desarrolladores de estas herramientas deberían revelar el contenido generado por IA y ofrecer resúmenes de los datos con derechos de autor utilizados durante el entrenamiento, asegurando así la compensación de los creadores por sus contribuciones.
El desafío del cumplimiento
La investigación de Stanford midió diez modelos de IA en relación con las reglamentaciones provisionales de la UE en varios parámetros, como describir las fuentes de datos, resumir los datos con derechos de autor, revelar el consumo de energía y las necesidades de computación de la tecnología, y detallar evaluaciones, pruebas y riesgos anticipados asociados con la tecnología.
El estudio reveló que cada modelo no cumplió con las reglas propuestas en varias áreas significativas. Más de la mitad de los proveedores evaluados no alcanzaron ni siquiera un puntaje de cumplimiento del 50 %.
Específicamente, los modelos de IA propietarios como ChatGPT de OpenAI y PaLM 2 de Google fueron criticados por su falta de transparencia en cuanto a los datos con derechos de autor. Por otro lado, sus competidores de código abierto mostraron mayor transparencia pero plantearon desafíos de control.
Abordando estas preocupaciones, Rumman Chowdhury de la Universidad de Harvard señaló que la IA no es intrínsecamente neutral, confiable o beneficiosa, y se requiere un esfuerzo coordinado y dirigido para garantizar su uso adecuado. La confiabilidad, argumentó, es la verdadera ventaja competitiva en este ámbito.
Implicaciones globales y consideraciones futuras
Los hallazgos del estudio de Stanford, presentados en una audiencia reciente del comité del Congreso de EE. UU. sobre IA, guiarán a los reguladores de todo el mundo mientras intentan navegar esta tecnología transformadora proyectada para revolucionar industrias desde los servicios financieros hasta los medios.
Sin embargo, esta investigación también ilumina la tensión persistente entre el ritmo del desarrollo de la IA y el crecimiento responsable. Según Frank Lucas, presidente republicano del comité, si bien EE. UU. debe retener su papel de liderazgo en IA, también debe defender los valores de confiabilidad, transparencia y equidad.
A medida que la Ley de IA de la UE está a punto de aplicar reglas específicas y EE. UU. planea introducir legislación relacionada, Bommasani aboga por una mayor transparencia dentro de la industria para regular mejor la IA.
Sin embargo, también reconoce que hacer cumplir estas leyes será una tarea desafiante. No está inmediatamente claro cómo resumir las porciones con derechos de autor de estos enormes conjuntos de datos.
A medida que las regulaciones se vuelvan más concretas, se espera que los esfuerzos de cabildeo se intensifiquen tanto en Bruselas como en Washington.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad (Disclaimer): La información proporcionada no constituye asesoramiento de inversión. Cryptopolitan.com no asume responsabilidad alguna por las inversiones realizadas basándose en la información contenida en esta página. Recomendamos encarecidamente realizar investigaciones independientes o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Jai Hamid
Jai Hamid ha estado cubriendo criptomonedas, mercados bursátiles, tecnología, la economía global y los eventos geopolíticos que afectan a los mercados durante los últimos 6 años. Ha trabajado con publicaciones centradas en blockchain, incluidas AMB Crypto, Coin Edition y CryptoTale, en análisis de mercado, grandes empresas, regulación y tendencias macroeconómicas. Se graduó en la London School of Journalism y ha compartido tres veces sus conocimientos sobre el mercado de criptomonedas en una de las principales cadenas de televisión de África.
