NIST señala vulnerabilidades de la IA: los ciberataques plantean amenazas sin resolver
- El Instituto Nacional de Estándares y Tecnología (NIST) del Departamento de Comercio de EE. UU. publicó un informe que destaca cuatro tipos de ciberataques que amenazan a los sistemas de inteligencia artificial, sin que existan defensas infalibles.
- Los ataques de aprendizaje automático adversarial incluyen hackers de caja blanca, sandbox y caja gris, que explotan vulnerabilidades en los sistemas de IA y conllevan riesgos de consecuencias graves.
- El informe enfatiza los desafíos de defender la IA, citando la dificultad para desaprender comportamientos maliciosos y el aumento de los riesgos a medida que la IA se integra en diversos aspectos de nuestra economía conectada.
En el paisaje tecnológico en constante evolución, la promesa de la inteligencia artificial (IA) se encuentra con una preocupación creciente: la vulnerabilidad de los sistemas de IA a los ciberataques. Recientemente, el Instituto Nacional de Estándares y Tecnología (NIST) del Departamento de Comercio de EE. UU. desveló un informe sobre «IA confiable y responsable», arrojando luz sobre los desafíos persistentes en la defensa de los sistemas de IA frente a actores maliciosos. El informe identifica cuatro tipos de ciberataques que podrían manipular el comportamiento de los sistemas de IA, instando a la comunidad a diseñar defensas más robustas.
Las amenazas del aprendizaje automático adversarial
El informe del NIST se adentra en las complejidades del aprendizaje automático adversarial, categorizando a los posibles atacantes en tres tipos distintos: hackers de caja blanca, hackers de sandbox y hackers de caja gris. Los hackers de caja blanca poseen un conocimiento completo de los sistemas de IA, los hackers de sandbox tienen acceso mínimo y los hackers de caja gris poseen información parcial sobre un sistema de IA, pero carecen de acceso a sus datos de entrenamiento. A pesar de sus distintos grados de conocimiento, los tres plantean graves amenazas para la integridad de los sistemas de IA.
El fraude en el ámbito digital está en aumento, según señaló Gerhard Oosthuizen, CTO de Entersekt. La tecnología que inicialmente prometía victorias ahora presenta más desafíos frente al creciente sofisticación de las actividades fraudulentas. El informe del NIST subraya los riesgos crecientes a medida que la IA se integra cada vez más en nuestra economía conectada.
El informe destaca dos ataques principales de aprendizaje automático adversarial: envenenamiento y abuso. El envenenamiento de sistemas de IA implica inyectar datos corruptos durante la fase de entrenamiento, lo que lleva a sistemas que funcionan mal. El NIST cita un ejemplo en el que un actor malicioso introduce lenguaje inapropiado en los registros de conversación, haciendo que un chatbot adopte estos ejemplos como lenguaje común en las interacciones con los clientes.
Por otro lado, los ataques de abuso implican insertar información incorrecta en una fuente legítima que el sistema de IA absorbe. Estos ataques tienen como objetivo reaprovechar el uso previsto del sistema de IA proporcionándole piezas incorrectas de información. Alina Oprea, coautora del informe del NIST y profesora en la Universidad Northeastern, señala la simplicidad de estos ataques, que requieren un conocimiento mínimo y capacidades adversarias.
Ciberataques desvelados: navegando por la complejidad de la defensa de la IA
Los ataques de privacidad y los ataques de evasión añaden capas adicionales de complejidad a la defensa de la IA. Los ataques de privacidad intentan obtener información sensible sobre la IA o sus datos de entrenamiento, utilizando preguntas legítimas para ingeniería inversa del modelo. Los ataques de evasión, que ocurren después del despliegue, buscan alterar las respuestas del sistema de IA a entradas tradicionales. Esto incluye modificaciones engañosas a las señales de tráfico, lo que plantea riesgos para los vehículos autónomos.
El desafío general radica en la dificultad de hacer que los modelos de IA «desaprendan» los comportamientos enseñados, incluso cuando resultan maliciosos o dañinos. A medida que la IA se integra más en nuestras vidas diarias, el informe advierte de la creciente necesidad de abordar estas vulnerabilidades para prevenir fallos catastróficos.
A medida que la sombra de los ciberataques se cierne sobre el avance de la IA, el informe del NIST llama la atención sobre los desafíos sin resolver en la seguridad de los sistemas de IA. La llamada a la comunidad para mejorar las defensas subraya la urgencia de abordar estas vulnerabilidades. ¿Puede la comunidad de la IA diseñar colectivamente medidas infalibles para protegerse contra las amenazas cibernéticas en evolución, o estamos destinados a navegar por el laberinto en constante expansión de los ataques de aprendizaje automático adversarial? El futuro de la defensa de la IA depende de nuestra capacidad para innovar y mantenerse un paso por delante de aquellos que buscan explotar sus vulnerabilidades.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Aamir Sheikh
Aamir es un periodista tecnológico con casi seis años de experiencia en los sectores de criptomonedas y tecnología. Se graduó de la Universidad MAJ con un MBA en Finanzas y Marketing. Ahora trabaja con Cryptopolitan, donde informa sobre los últimos desarrollos en los mercados de criptomonedas y predicciones de precios.
