La adopción de IA expone nuevas amenazas a la ciberseguridad

Un experto en ciberseguridad reveló que la IA es una amenaza de ciberseguridad peligrosa para las corporaciones que la utilizan como su servicio, no solo a través de la ejecución de ataques por parte de delincuentes, sino también de manera legítima.

Vulnerabilidades cibernéticas de la IA

Si bien la amenaza que representan los actores maliciosos que usan IA para lanzar ataques se ha discutido ampliamente, Peter Garraghan, CEO y CTO de Midgard, que proporciona ciberseguridad específicamente para IA, dice: "El problema que tengo en mente es una amenaza de ciberseguridad para la IA, que es la que está en el tema".

Como era de esperar, el uso más común y, por lo tanto, más arriesgado de la IA por parte de las empresas se relaciona con los chatbots que ofrecen atención al cliente y cuyo tono y datos suelen estar personalizados para las organizaciones a las que representan. Es por ello que el Dr. Garraghan, profesor de informática de la Universidad de Lancaster especializado en seguridad y sistemas de IA, decidió fundar Mindgard en 2022. «La IA no es magia», afirma. Es simplemente una combinación de código, datos y hardware adicionales. Dadas las ciberamenazas actuales, todas estas amenazas también pueden manifestarse en la IA.

Pensémoslo así: supongamos que un atacante utiliza un proceso conocido como inyección SQL. Un atacante puede usar este proceso para explotar vulnerabilidades en campos de formularios web, como el inicio de sesión o el formulario de contacto. Otra forma de utilizar la ingesta de teleprompter es la inyección de prompts, que se utiliza en aplicaciones públicas. En primer lugar, si la seguridad no se garantiza adecuadamente, las herramientas de IA pueden ser prácticamente manipuladas para que filtren su código fuente e instrucciones, la propiedad intelectual de la empresa o los datos de los clientes. En segundo lugar, las herramientas de IA pueden ser sometidas a ingeniería inversa, como otras aplicaciones de software, paradentfallos.

Asegurar los sistemas de IA

Garraghan señala la gravedad del problema: En el futuro previsible, dentro de unos años, podría surgir el factor de seguridad nacional, o las personas marginadas podrían estar en riesgo. La nueva información parece una advertencia: las empresas deben tener cuidado con los datos publicados.

Garraghan afirma: «Además, la IA puede servir como herramienta de ciberataque, filtrando datos; el modelo podrá proporcionar los datos que usted solicitó amablemente». En enero, la plataforma de redes sociales de derecha Gab presentó un ejemplo: buscó tutoriales que, accidentalmente,dentbasada en GPT, OpenAI, también sufrió el uso indebido de sus modelos.

Garraghan afirma que se puede obtener información mediante ataques VoIP no autorizados. Además, se puede aplicar ingeniería inversa a la IA, lo que permite eludir o engañar al sistema para que acceda a otros sistemas. Por lo tanto, la fuga de información podría ser una de las principales áreas transversales a todas las industrias, incluidas aquellas con exposición externa o interna. También enumera otros riesgos, como la evasión de modelos, donde el modelo se desvía o se evade deliberadamente mediante la fabricación de datos engañosos.

Garraghan señaló que insertar comandos maliciosos o contaminar datos con soluciones erróneas en tracde audio es otra amenaza. Además, señala que el impacto cibernético general es el daño a la reputación que suele experimentarse tras los ciberataques. De igual manera, las áreas con mayor riesgo de sufrir las consecuencias negativas de este tipo de ciberataque son aquellas donde hay mayor riesgo. Dado que muchas industrias e instituciones operan en línea, la seguridad pública y la ausencia de filtraciones de informacióndent, por ejemplo, son valores importantes que los sectores de servicios financieros y salud deberían priorizar.

Garraghan dice: La relación radica en que cuanto más estructurado y controlador seas en tu sector y cuantos más riesgos te enfrentes a la IA (y también por experiencia: cuanto menos la uses, menos la adoptarás), peor será tu IA. Quizás no sean los más perezosos. Por ejemplo, puede que simplemente estén pasando por las etapas más difíciles de su vida.

Medidas de seguridad de IA proactivas

La IA se encargará de esos riesgos en cualquier empresa, aunque, según él, requerirá capas de seguridad (porque la IA en los negocios ya las necesita) para la protección de los usuarios. «Ya existen herramientas de ciberseguridad especializadas en diferentes sectores», afirma Garraghan. «Estas pueden ser herramientas de gestión de la postura de seguridad, detección, herramientas de respuesta, cortafuegos y soporte para el diseño de "shift left", como el análisis de código. Pronto se requerirá IA en consonancia con la transformación digital». Este género se especializa exclusivamente en IA y aprendizaje automático, mientras que sistemas como las redes neuronales solo se mencionan ocasionalmente.

Necesitará un escáner de aplicaciones de redes neuronales, un sistema de respuesta de todo tipo, pruebas de seguridad y equipos de respuesta para un mejor control entre aplicaciones. Además, necesitará un sistema de respuesta de todo tipo. Es más fácil corregirlos y remediarlos tempranamente que los problemas de tiempo de ejecución. Sin embargo, la mejor práctica que recomendamos a las organizaciones que utilizan modelos de IA o aplicaciones y servicios de IA adquiridos es que, antes de entrar en producción, es más fácil solucionar todos los problemas con los modelos. Después, solo se podrándentlos problemas que deban solucionarse.