La IA generativa genera preocupaciones entre los líderes empresariales: estudio

Más del 90% de los altos ejecutivos expresan preocupaciones sobre el uso no monitoreado de herramientas de IA generativa

Un estudio reciente realizado por el proveedor de ciberseguridad Kaspersky ha revelado crecientes preocupaciones entre los ejecutivos de alto nivel sobre la proliferación no regulada de herramientas de inteligencia artificial generativa (GenAI) en sus organizaciones. Con el 90% de los líderes empresariales senior expresando preocupaciones sobre la adopción sin control de estas herramientas, es evidente que la IA generativa se está integrando cada vez más en varias operaciones comerciales.

Infiltración silenciosa de la IA generativa

El estudio de Kaspersky reveló que más de la mitad (53%) de los altos ejecutivos encuestados creen que la IA generativa ahora está impulsando activamente ciertas líneas de negocio dentro de sus organizaciones. Sin embargo, el 59% también expresó profundas preocupaciones sobre lo que describieron como una "infiltración silenciosa" de la IA generativa, lo que conlleva mayores riesgos cibernéticos. Este fenómeno de "IA sombra", donde los empleados incorporan la IA generativa sin la supervisión adecuada, plantea desafíos significativos para la seguridad y gobernanza de los datos.

Un hallazgo alarmante es que solo el 22% de los líderes empresariales encuestados han discutido la implementación de políticas internas de gobernanza para monitorear el uso de la IA generativa dentro de sus organizaciones. Además, el 91% admitió necesitar una mejor comprensión de cómo se utilizan estas herramientas para mitigar los riesgos de seguridad.

David Emm, investigador principal de seguridad de Kaspersky, enfatizó la urgencia de abordar este problema, afirmando: "Dado que la evolución rápida de la GenAI no muestra actualmente signos de disminuir, cuanto más operen estas aplicaciones sin control, más difícil será controlarlas y asegurarlas en las principales funciones comerciales como RR. HH., finanzas, marketing o incluso TI."

Preocupaciones por brechas de datos

La IA generativa depende del aprendizaje continuo a través de entradas de datos, lo que convierte a la protección de datos en una preocupación primordial. Incluso cuando se usa de buena fe, los empleados pueden transmitir inadvertidamente datos confidenciales fuera de la organización, lo que potencialmente podría causar una brecha de datos. La investigación de Kaspersky reflejó esta preocupación, con el 59% de los líderes expresando seria aprensión ante el riesgo de pérdida de datos.

A pesar de estas aprensiones, el estudio también reveló que el 50% de los líderes empresariales planean aprovechar la IA generativa en alguna capacidad, principalmente para automatizar tareas repetitivas. Además, el 44% tiene la intención de integrar herramientas de IA generativa en sus rutinas diarias. Cabe destacar que el 24% indicó que estaban inclinados a usar la IA generativa para automatizar funciones de TI y seguridad.

Emm comentó sobre esta tendencia, diciendo: "Uno podría asumir que la perspectiva de pérdida de datos confidenciales y la pérdida de control de unidades comerciales críticas podría hacer que la alta dirección reflexione, pero nuestros hallazgos revelan que casi una cuarta parte de los jefes de la industria están considerando actualmente delegar algunas de sus funciones más importantes a la IA."

Sin embargo, también enfatizó la necesidad de una comprensión integral de la gestión de datos y políticas robustas antes de integrar aún más la IA generativa en el entorno corporativo.

La discusión sobre los riesgos y beneficios de la IA generativa ha ganado prominencia. El primer ministro del Reino Unido, Rishi Sunak, ha pedido recientemente un mayor conocimiento de los riesgos asociados con la IA generativa. Esto ocurre antes de la Cumbre de Seguridad de la IA en Bletchley Park, donde líderes de la industria y expertos discutirán el futuro de la regulación y la integración de esta tecnología emergente.

La espada de doble filo de la IA generativa

Fabien Rech, Vicepresidente Senior y Gerente General en Trellix, destacó la naturaleza dual de la IA generativa, afirmando: "La IA generativa es una espada de doble filo: a medida que el panorama de la ciberseguridad continúa evolucionando, la proliferación de la IA generativa solo añade mayor complejidad a la mezcla."

Rech enfatizó la importancia de que las organizaciones sean conscientes de las implicaciones de la tecnología de IA generativa y cómo puede aprovecharse e integrarse de manera efectiva. Si bien las herramientas de IA generativa ofrecen el beneficio de simplificar las tareas diarias y mejorar la productividad, también existen preocupaciones sobre su posible mal uso en actividades maliciosas como inyección de código, phishing, ingeniería social y tecnología deepfake.

Instó a las organizaciones a priorizar medidas de seguridad robustas y la integración de soluciones tecnológicas adecuadas para construir una protección resistente contra las amenazas cibernéticas.