La adopción de la IA expone nuevas amenazas de ciberseguridad

Un experto en ciberseguridad reveló que la IA es una amenaza de ciberseguridad insegura para las corporaciones que la utilizan como servicio, no solo a través de la ejecución de ataques por criminales, sino también legítimamente.

Las vulnerabilidades cibernéticas de la IA

Aunque se ha discutido ampliamente la amenaza que representan los actores maliciosos que utilizan la IA para entregar ataques, Peter Garraghan, CEO y CTO de Midgard, que proporciona ciberseguridad específicamente para la IA, dice: “El problema que tengo en mente es una amenaza de ciberseguridad para la IA, que es la que está en el tema.”

Predeciblemente, el uso más común y, por tanto, más riesgoso de la IA por parte de las empresas se relaciona con los chatbots que sirven como servicio al cliente y cuyo tono y datos suelen personalizarse para las organizaciones que representan. Aquí es donde el Dr. Garraghan, profesor de ciencias de la computación en la Universidad de Lancaster especializado en seguridad y sistemas de IA, decidió encontrar Mindgard en 2022. “La IA no es magia”, dice. Es simplemente una combinación de codificación adicional, datos y hardware. Dadas las amenazas cibernéticas modernas, todas estas amenazas también pueden manifestarse en la IA.

Pensemos en esto de esta manera: supongamos que un atacante utiliza un proceso conocido como inyección SQL. Un atacante puede usar ese proceso para explotar vulnerabilidades en campos de formularios web como el inicio de sesión del sitio web o el formulario de contacto. Otra forma en que la ingestión de teleprompter puede utilizarse es la inyección de prompts, que se usa en aplicaciones públicas. En primer lugar, si la seguridad no está adecuadamente garantizada, las herramientas de IA prácticamente pueden ser azotadas para filtrar su código fuente e instrucciones, la propiedad intelectual de la empresa o los datos de los clientes. En segundo lugar, las herramientas de IA pueden ser descompiladas como otras aplicaciones de software para identificar defectos.

Asegurar sistemas de IA

Garraghan habla de la gravedad del problema: En el futuro previsto, en unos pocos años, el factor de la seguridad nacional puede surgir, o las personas desposeídas pueden estar en riesgo. La nueva información parece una advertencia: un negocio debe tener cuidado con los datos liberados.

Garraghan dice: “Además, la IA puede servir como una herramienta de ciberataque donde puede filtrar datos; el modelo será capaz de proporcionar los datos que solicitó amablemente.” Presentando un ejemplo en enero, la plataforma de redes sociales de derecha Gab buscó tutoriales que revelaron accidentalmente sus instrucciones. La plataforma basada en GPT OpenAI anteriormente también tuvo sus modelos mal utilizados.

Garraghan afirma que la información puede ser obtenida a través de ataques VoIP no autorizados. Además, la IA puede ser descompilada y el sistema puede ser eludido o engañado para tener acceso abierto a otros sistemas. Por lo tanto, la filtración de información podría ser una de las principales áreas transversales a todas las industrias, incluidas las que pueden estar orientadas externa o internamente. También enumera otros riesgos, como la evasión del modelo, donde el modelo es desviado o deliberadamente eludido fabricando datos engañosos.

Garraghan señaló que insertar comandos maliciosos o contaminar datos con soluciones mal concebidas en pistas de audio es otra amenaza. Además, señala que el impacto cibernético general es el daño reputacional comúnmente experimentado después de los ciberataques. De manera similar, las áreas con mayor riesgo de las consecuencias negativas de este tipo de ciberataques son donde las apuestas son más altas. Con muchas industrias e instituciones que operan en línea, la seguridad pública y la falta de información confidencial filtrada, por ejemplo, son valores importantes que los sectores de servicios financieros y atención médica deben priorizar.

Garraghan dice: El vínculo aquí es que cuanto más estructurado y controlador seas en tu industria y más riesgos enfrentes de la IA (y también por experiencia: cuanto menos uses la IA, menos la adoptes), peor será tu IA. Quizás no sean los más perezosos. Por ejemplo, simplemente pueden estar pasando por las etapas más graves de su vida.

Medidas proactivas de seguridad de IA

La IA se encargará de esos riesgos en cualquier empresa específica, aunque dice que requerirá capas de seguridad (porque la IA en los negocios ya las necesita) para la protección de los usuarios. “Ya tienes herramientas de ciberseguridad especializadas en diferentes sectores”, dice Garraghan. “Estas pueden ser herramientas de gestión de la postura de seguridad, herramientas de detección y respuesta, firewalls y soporte para el diseño shift left, como el escaneo de código. Pronto necesitarás IA alineada con la transformación digital.” El género se especializa exclusivamente en IA y ML, mientras que sistemas como las redes neuronales se mencionan solo ocasionalmente

Necesitarás un escáner de aplicaciones de redes neuronales, un sistema de respuesta de todo tipo de redes neuronales, pruebas de seguridad y red teaming para un mejor control entre aplicaciones, y necesitarás un sistema de respuesta de todo tipo de redes neuronales. Es más fácil corregir y remediarlos temprano en lugar de problemas en tiempo de ejecución. Sin embargo, la mejor práctica que recomendamos a las organizaciones que utilizan modelos de IA o aplicaciones y servicios de IA adquiridos es que antes de que vaya a producción, es más fácil corregir todos los problemas con los modelos. Luego, después de que vaya a producción, solo se pueden identificar los problemas que necesitan ser corregidos.