La IA generativa se posiciona entre los cinco principales riesgos emergentes en el Q2 2023
- La IA generativa se consolida como uno de los principales riesgos empresariales en el segundo trimestre de 2023, con preocupaciones sobre la privacidad de los datos y la ciberseguridad.
- Las recesiones económicas amplifican los riesgos de viabilidad de terceros, lo que podría afectar a las cadenas de suministro y a la planificación financiera.
- La rápida adopción pública de herramientas de IA subraya la necesidad de una gestión proactiva de riesgos en los sectores tecnológicos y económicos.
La inteligencia artificial generativa (IA), incluidos modelos prominentes como ChatGPT de OpenAI y Google Bard, ha surgido a la vanguardia de las preocupaciones sobre riesgos empresariales en el segundo trimestre de 2023, según un reciente estudio de Gartner, Inc.
Perspectivas de la encuesta
En una encuesta exhaustiva realizada en mayo de 2023, Gartner contactó a 249 altos ejecutivos de riesgos empresariales, con el objetivo de ofrecer una perspectiva estandarizada sobre 20 riesgos inminentes. Los Informes Trimestrales de Riesgos Emergentes, un análisis detallado, arrojan luz sobre el impacto potencial, el cronograma, el nivel de atención y las oportunidades percibidas asociadas con estos riesgos.
La disponibilidad masiva de la IA generativa fue identificada como el segundo riesgo más frecuentemente citado. Mientras tanto, la viabilidad de terceros ocupó el primer lugar como el riesgo emergente rápidamente bajo estrecha vigilancia en la encuesta del segundo trimestre de 2023. La incertidumbre en la planificación financiera y el riesgo de concentración en la nube siguieron, completando el top cinco con las tensiones comerciales con China. Estos riesgos representan una mezcla de preocupaciones macroeconómicas actuales, volatilidad geopolítica y temas relacionados con la tecnología.
Ran Xu, directora de investigación en la Práctica de Riesgos y Auditoría de Gartner, opina que la aparición repentina de la IA generativa en el top 10, ocupando el segundo lugar, refleja el rápido aumento de la conciencia pública y la adopción de herramientas de IA generativa. También subraya la vasta gama de aplicaciones potenciales y, en consecuencia, los riesgos asociados.
Riesgos de la IA generativa
Gartner ha identificado previamente seis riesgos inherentes de la IA generativa y cuatro áreas pertinentes de regulación de la IA. Para gestionar eficazmente el riesgo empresarial, Gartner enfatiza tres áreas fundamentales: propiedad intelectual, privacidad de datos y ciberseguridad.
Preocupaciones sobre la propiedad intelectual
Las herramientas de IA generativa pueden integrar inadvertidamente información en sus conjuntos de datos de entrenamiento. Ran Xu explicó que la información introducida en una herramienta de IA generativa podría convertirse en parte de su conjunto de entrenamiento. Esto implica que datos sensibles o propietarios podrían aparecer inadvertidamente en las salidas para otros usuarios. Además, utilizar las salidas de estas herramientas podría violar inadvertidamente los derechos de propiedad intelectual de usuarios anteriores. Gartner subraya la importancia de informar a los líderes corporativos sobre la prudencia y la transparencia requeridas al emplear dichas herramientas, asegurando que los riesgos de propiedad intelectual se aborden adecuadamente.
Problemas de privacidad de datos
Las herramientas de IA generativa podrían compartir inadvertidamente datos de usuarios con terceros, como proveedores o proveedores de servicios, sin previo aviso. Tales acciones podrían violar las leyes de privacidad en numerosas regiones. Cabe destacar que China y la UE ya han promulgado regulaciones, con leyes propuestas en camino en EE. UU., Canadá, India y el Reino Unido.
Amenazas de ciberseguridad
Las herramientas de IA generativa no son inmunes a las amenazas cibernéticas. Xu señaló que existen códigos de malware y ransomware producidos por IA generativa después de ser engañados, así como ataques de «inyección de prompts» que engañan a estas herramientas para que revelen información que no deberían. Esto allana el camino para la ejecución a gran escala de sofisticados ataques de phishing.
Condiciones económicas y viabilidad de terceros
Los analistas también destacaron la posible amplificación de los riesgos de viabilidad de terceros debido al empeoramiento de las condiciones económicas. La inflación persistente, menos reactiva a los ajustes de las tasas de interés y de mayor duración de la esperada, ha intensificado las presiones sobre los costos y los márgenes de los terceros. A medida que los bancos centrales elevan las tasas de interés para combatir la inflación, se desencadena una fase de ajuste crediticio, lo que podría empujar a los proveedores hacia la suspensión operativa o la insolvencia debido a los crecientes gastos de endeudamiento.
Una amplia recesión económica podría llevar a un desplome inesperado de la demanda, poniendo en peligro la viabilidad de los proveedores o su capacidad para entregar bienes y servicios a tiempo.
Los expertos de Gartner han delineado tres posibles repercusiones de la viabilidad de terceros para que los gestores de riesgos las sigan: pérdida de insumos y materiales esenciales, suposiciones erróneas en la planificación financiera y desafíos externos en la cadena de suministro.
A medida que evoluciona el panorama de los riesgos emergentes, las empresas deben permanecer vigilantes, especialmente en el ámbito de la IA generativa. La combinación de avances tecnológicos y fluctuaciones económicas requiere un enfoque proactivo de la gestión de riesgos.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Glory Kaburu
Glory es una periodista extremadamente experta con herramientas e investigación sobre IA. Está apasionada por la inteligencia artificial y ha escrito varios artículos sobre el tema. Se mantiene al día con los últimos avances en Inteligencia Artificial, Aprendizaje Automático y Aprendizaje Profundo, y escribe regularmente sobre ellos.
