Los principales modelos de IA carecen de transparencia, muestra un nuevo índice
Los principales modelos de IA carecen de transparencia, muestra un nuevo índice
- Un nuevo índice muestra que la mayoría de los modelos de IA carecen de transparencia.
- La transparencia es fundamental para que los reguladores puedan regular eficazmente la IA en materia de seguridad del consumidor.
- La falta de transparencia también podría dificultar la detección y eliminación de sesgos, problemas de privacidad y otros daños que los modelos de IA podrían representar.
Los investigadores del Centro de Investigación de Modelos de Base (CRFM) de Stanford han descubierto recientemente que los principales modelos de base de IA carecen de transparencia, lo cual podría ser motivo de preocupación, considerando lo poderosa y rápida que es la difusión de esta tecnología por todo el mundo.
Los principales modelos de IA carecen de transparencia
Para puntuar la transparencia de los 10 principales modelos de base, los investigadores colaboraron con otros expertos del MIT y Princeton para desarrollar el «Índice de Transparencia de Modelos de Base». El índice evalúa 100 aspectos diferentes de la transparencia basándose en cómo una empresa construye un modelo de base, cómo funciona y cómo se utiliza en aplicaciones posteriores.
El índice clasificó a Llama 2 de Meta en un 54%, seguido de BLOOMZ de BigScience (53%) y GPT-4 de OpenAI (48%). PaLM 2 de Google tuvo una calificación de transparencia del 40%, siendo el modelo menos transparente Titan Text de Amazon con un 12%.
«Esto es una indicación bastante clara de cómo estas empresas se comparan con sus competidores, y esperamos que las motive a mejorar su transparencia», dijo Rishi Bommasani, líder social en CRFM.
¿Por qué es importante?
La transparencia en los modelos de IA es imperativa para prevenir ciertas amenazas a la protección del consumidor y también para garantizar que estas herramientas sean seguras de usar.
La falta de transparencia haría más difícil que las empresas supieran si pueden construir aplicaciones de forma segura utilizando modelos de base comerciales, o que los académicos puedan confiar en los modelos para la investigación.
En el lado de la regulación, es una prioridad importante. La transparencia es importante para erradicar el sesgo, las violaciones de privacidad, etc., y para ayudar eficazmente a los formuladores de políticas de todo el mundo a crear normas para regular los modelos de IA.
«Si no tienes transparencia, los reguladores ni siquiera pueden plantear las preguntas correctas, mucho menos tomar medidas en estas áreas», dijo Bommasani.
Algunos países, incluida Australia, ya han comenzado a aplicar medidas para garantizar la transparencia y la integridad de los modelos de IA. En septiembre, Cryptopolitan informó que el gobierno australiano ha dotado a los ciudadanos del derecho a solicitar información significativa sobre cómo se toman las decisiones automatizadas.
El gobierno exige que las empresas de IA proporcionen esta información de manera clara y comprensible, asegurando que los ciudadanos puedan entender cómo la IA influye en sus vidas.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Ibiam Wayas
Ibiam Wayas cubre la noticia de criptomonedas desde 2019. Estudió Ciencias de la Computación en la Universidad Abierta Nacional de Nigeria. Su trabajo ha aparecido en diversas plataformas de noticias sobre criptomonedas, incluyendo Coinfomania, Crypto News Australia y AltcoinBuzz. Aprovechando su formación en Ciencias de la Computación, ahora se centra en noticias sobre criptomonedas, robótica y longevidad.
