Las aplicaciones de IA tendrán 'etiquetas de seguridad' que destacan riesgos y pruebas
las etiquetas indicarán claramente los riesgos y las pruebas en las aplicaciones de IA.
- Los desarrolladores de IA deberán incluir etiquetas que mencionen los riesgos y problemas de seguridad en sus aplicaciones.
- Este paso ayudará a los usuarios a comprender la tecnología de inteligencia artificial y a mantener su privacidad.
- Se pondrá a disposición una guía sobre el anonimato de los datos para los países de la región de la ASEAN.
En un futuro cercano, los usuarios de aplicaciones de IA generativa podrían encontrar etiquetas que describan claramente cómo debe utilizarse la IA, sus riesgos asociados y su proceso de pruebas. Según las nuevas directrices, las etiquetas serán obligatorias para facilitar la comprensión de la tecnología por parte del público en general.
También lea: La Unión Europea (UE) toma la delantera en la regulación de la IA
La ministra de Comunicaciones e Información de Singapur, la Sra. Josephine Teo, declaró que la nueva medida es un esfuerzo por definir un estándar de transparencia y pruebas para las empresas tecnológicas. Estaba hablando en la conferencia tecnológica sobre Protección de Datos Personales el 15 de julio, según un informe de Strait Times.
Los desarrolladores de aplicaciones de IA deben ser transparentes sobre sus innovaciones
Al igual que la práctica de cómo los medicamentos o los electrodomésticos llevan etiquetas de seguridad, en la misma línea, los desarrolladores de aplicaciones de IA generativa deben ser claros al informar a los usuarios sobre el uso y el desarrollo de los modelos de IA. La Sra. Teo, quien también es Ministra a cargo de la iniciativa Smart Nation y Ciberseguridad, dijo:
“Recomendaremos que los desarrolladores y los implementadores sean transparentes con los usuarios proporcionando información sobre cómo funcionan los modelos de IA generativa y las aplicaciones.”
Al explicar las próximas normas, la ministra dijo que son las mismas que cuando un usuario abre una “caja de medicamentos de venta libre”. Encuentran una hoja de papel que indica claramente cómo debe usarse el medicamento y los posibles “efectos secundarios que podría enfrentar.”
Teo afirmó que “este nivel de transparencia” es necesario para los sistemas de IA construidos sobre una inteligencia artificial generativa. El nuevo conjunto de normas definirá los estándares de seguridad que deben practicarse antes de que un modelo de IA esté disponible para el público.
La guía sobre anonimización de datos se publicará en 2025
La inteligencia artificial generativa es un género de IA capaz de generar nuevos textos e imágenes y no es tan predecible como la IA tradicional. Según las nuevas directrices, se requerirá que los creadores mencionen los riesgos de difundir mentiras, comentarios hostiles y narrativas sesgadas en el contenido.
Teo dijo que los electrodomésticos vienen con etiquetas que indican claramente que el artículo ha sido probado para un uso seguro; de lo contrario, un cliente no sabría si el electrodoméstico es seguro o no. Lo mismo se aplicará a las aplicaciones de IA. La Autoridad de Desarrollo de Medios de Información y Telecomunicaciones de Singapur (IMDA) iniciará una consulta con la industria sobre las nuevas normas. Sin embargo, Teo no mencionó una fecha para las directrices.
IMDA también ha publicado una guía sobre problemas relacionados con la privacidad en la tecnología, que atenderá la creciente demanda de datos para entrenar modelos de IA mientras protege la privacidad de los usuarios, dijo Teo.
Denise Wong, directora ejecutiva adjunta de IMDA, dijo que mantener los datos seguros en la IA generativa es más desafiante para la industria. Estaba expresando sus opiniones en un panel de discusión separado sobre IA y privacidad de datos durante el evento. Representantes de diferentes empresas tecnológicas formaron parte del panel, incluido OpenAI, creador de ChatGPT, y la firma de consultoría Accenture.
Las barreras de protección de datos deben estar en todos los stages del desarrollo y despliegue de la IA, dijo Jessica Gan Lee, jefa de privacidad legal de OpenAI. Dijo que los modelos de IA deben entrenarse con conjuntos de datos diversos de “todos los rincones del mundo”. Lee enfatizó que deben incluirse múltiples culturas, idiomas y fuentes en el entrenamiento de la IA, junto con la búsqueda de formas de limitar el procesamiento de datos personales.
Teo dijo que se presentará una guía sobre anonimización de datos para las empresas que operan en la ASEAN a principios de 2025. La guía será el resultado de una reunión en febrero entre funcionarios regionales que exploraron formas de crear un ecosistema digital global seguro.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Aamir Sheikh
Aamir es un periodista tecnológico con casi seis años de experiencia en los sectores de criptomonedas y tecnología. Se graduó de la Universidad MAJ con un MBA en Finanzas y Marketing. Ahora trabaja con Cryptopolitan, donde informa sobre los últimos desarrollos en los mercados de criptomonedas y predicciones de precios.
