Líderes tecnológicos adoptan IA generativa para la ciberdefensa: Informe de PwC
- La adopción de la IA generativa en la ciberdefensa está en aumento, con un 70% de los líderes tecnológicos planeando implementarla en el próximo año.
- La naturaleza dual de la IA generativa presenta tanto oportunidades como amenazas en el panorama de la ciberseguridad.
- Para combatir las amenazas cibernéticas en evolución, las organizaciones deben asegurar el flujo de trabajo de la IA, colaborar a nivel directivo e invertir en mecanismos innovadores de detección y defensa.
A medida que evoluciona el panorama de la ciberseguridad, un informe de PwC revela que el 70% de los líderes tecnológicos y empresariales planean adoptar IA generativa para la ciberdefensa en los próximos 12 meses. Este cambio responde al aumento de la sofisticación de las amenazas cibernéticas, impulsado por la capacidad de la IA generativa para crear correos electrónicos empresariales convincentes a gran escala.
Levantando la alarma sobre la ciberseguridad
El ámbito digital está en constante evolución, al igual que las tácticas de los atacantes cibernéticos. Los sistemas tradicionales de ciberseguridad enfrentan desafíos crecientes, principalmente debido al aumento de las capacidades de la IA generativa. Según el informe de PwC sobre la Confianza Digital 2024, el 70% de los líderes tecnológicos y empresariales anticipan usar la IA generativa como un componente clave de su estrategia de ciberdefensa.
Este desarrollo tiene como objetivo mitigar la creciente inquietud en torno a los métodos tradicionales de ciberseguridad, ya que la capacidad de la IA generativa para generar correos electrónicos empresariales sofisticados a gran escala ha alimentado el peligro de las amenazas cibernéticas. Un sentimiento predominante entre los expertos de la industria indica que el 52% anticipa que la IA generativa liderará ciberataques catastróficos dentro del próximo año.
La naturaleza dual de la IA generativa
Si bien la IA generativa promete reforzar la ciberdefensa, también presenta una herramienta formidable en el arsenal de los atacantes cibernéticos. Los atacantes pueden aprovechar las capacidades de la tecnología para crear correos electrónicos atractivos y contenido realista de deepfake, incluyendo videos, grabaciones e imágenes, para dirigirse a individuos desprevenidos a través de esquemas de phishing.
Un informe de inteligencia de amenazas en tiempo real de SlashNext destaca que los cibercriminales están entre los usuarios más frecuentes de chatbots de modelos de lenguaje grande (LLM). Estos actores maliciosos emplean chatbots LLM para crear ataques de compromiso de correo electrónico empresarial (BEC) y ejecutar campañas de phishing meticulosamente dirigidas. Desde el lanzamiento de ChatGPT de OpenAI a finales de 2022, los correos electrónicos de phishing maliciosos han experimentado un aumento notable del 1.265%.
Además, la adaptabilidad de la IA generativa permite a los actores maliciosos modificar fácilmente los códigos de ataque establecidos, haciéndolos lo suficientemente diferentes para evadir la detección. La prevalencia de la IA generativa se ha convertido en un punto focal en la dark web, con menciones proliferando a lo largo del año en curso.
Amenazas en evolución y malware autoevolutivo
Uno de los aspectos más preocupantes de la IA generativa en los ciberataques es la creación de cepas de malware que se autoevolucionan. Estas cepas generan variaciones adaptadas para atacar objetivos específicos, empleando técnicas únicas, cargas útiles y código polimórfico. Esta adaptabilidad evade efectivamente la detección por parte de las medidas de seguridad existentes. En este escenario de ciberseguridad de alto riesgo, solo las operaciones más ágiles y adaptables mantendrán una ventaja contra estas amenazas en evolución.
Fortaleciendo las Defensas Cibernéticas
Para reforzar las defensas contra las crecientes amenazas planteadas por los ciberataques impulsados por IA generativa, los expertos de la industria enfatizan las siguientes estrategias:
1. Asegurar toda la cadena de suministro de IA
Asegurar y cifrar los datos utilizados en el entrenamiento y ajuste fino de los modelos de IA es crucial. El escaneo continuo en busca de vulnerabilidades, malware y corrupción durante el desarrollo del modelo se identifica como un paso crítico para reforzar las defensas contra posibles brechas.
2. Discusiones colaborativas a nivel de junta directiva
Los líderes de ciberseguridad, tecnología, datos y operaciones deben reunirse para discusiones a nivel de junta directiva. Estas discusiones deben centrarse en los riesgos en evolución, específicamente cómo la IA generativa puede ser explotada para exponer datos sensibles y permitir el acceso no autorizado a los sistemas.
3. Detección y defensa innovadoras
Si bien los controles de seguridad existentes pueden extenderse para proteger la infraestructura y los datos que respaldan los sistemas de IA, es vital comprender la necesidad de métodos innovadores diseñados específicamente para detectar y detener ataques de IA adversarial. Las medidas proactivas son esenciales para contrarrestar la creciente marea de amenazas cibernéticas originadas por la IA generativa.
A medida que la IA generativa se convierte tanto en un activo para los defensores como en un arma potente en manos de los atacantes cibernéticos, las organizaciones deben lograr un equilibrio delicado. Adoptar esta tecnología para un uso ético y responsable, mientras se fortalecen las medidas de ciberseguridad, es imperativo. La conciencia, el aseguramiento de la cadena de suministro de IA y la inversión en defensas de vanguardia son las claves para navegar con éxito el panorama de ciberseguridad en evolución. En un mundo digital marcado por el cambio constante, estas estrategias serán esenciales para proteger los datos sensibles y mantener la confianza en el ámbito digital.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. Este es un comunicado de prensa pagado. Los lectores deben realizar su propia diligencia debida antes de tomar cualquier acción relacionada con la empresa promocionada o cualquiera de sus afiliados o servicios. Cryptopolitan.com no es responsable, directa o indirectamente, de ningún daño o pérdida causado o alegado como causado por o en conexión con el uso o la dependencia de cualquier contenido, bienes o servicios mencionados en el comunicado de prensa.
John Palmer
John Murangiri llegó a Cryptopolitan con habilidades en análisis de mercado. John (también conocido como JP) se graduó de la Universidad de Nairobi con un título de licenciatura en comunicación masiva y estudios de medios. Anteriormente, ha contribuido con perspectivas del mercado de criptomonedas a InsideBitcoins.com y Metacoingraph.
