La incertidumbre abunda a medida que crece el uso de la IA generativa: la encuesta de ISACA revela

Una encuesta reciente realizada por ISACA, la asociación global de confianza digital, ha arrojado luz sobre la creciente incertidumbre en torno a la inteligencia artificial generativa (IA). La encuesta, titulada «IA Generativa 2023: Una Encuesta de Pulso de ISACA», encuestó a más de 2.300 profesionales que trabajan en campos como la ciberseguridad, la auditoría de TI, la gobernanza, la privacidad y el riesgo. Reveló una discrepancia notable entre el alto uso de la IA generativa y la ausencia de políticas empresariales integrales que regulen su uso.

La encuesta encontró que un porcentaje significativo de organizaciones permite a los empleados usar inteligencia artificial generativa, incluso en ausencia de políticas explícitas. Solo el 28 por ciento de las organizaciones informó tener políticas que permiten expresamente el uso de inteligencia artificial generativa, y un mero 10 por ciento afirmó tener una política integral formal en su lugar.

Sorprendentemente, más de una de cada cuatro organizaciones declaró carecer tanto de una política como de planes para crear una. Además, el 40 % informó que los empleados estaban utilizando inteligencia artificial generativa a pesar de la ausencia de políticas formales, y otro 35 % estaba inseguro sobre si dicho uso estaba ocurriendo.

La inteligencia artificial generativa se está empleando en diversos ámbitos dentro de las organizaciones, incluida la creación de contenido, la mejora de la productividad, la automatización de tareas, la atención al cliente y la toma de decisiones.

Falta de familiaridad y formación

Aunque los empleados están adoptando activamente la inteligencia artificial generativa, la encuesta reveló que las organizaciones van rezagadas en la prestación de una formación adecuada. Solo el seis por ciento de las organizaciones de los encuestados ofrecen formación en IA a todos los miembros del personal. Más alarmante aún, el 54 % informó que no se proporcionaba ninguna formación en IA, incluso a los equipos directamente afectados por la implementación de la IA. Además, solo el 25 % de los encuestados sentía que tenía un alto nivel de familiaridad con la inteligencia artificial generativa.

Jason Lau, director de la junta directiva de ISACA y CISO de Crypto.com, enfatizó la necesidad de que las organizaciones se pongan al día y proporcionen políticas, orientación y formación para garantizar el uso responsable y ético de la inteligencia artificial generativa. Declaró que los empleados no estaban esperando permiso para aprovechar la inteligencia artificial generativa en su trabajo, destacando la necesidad de una mayor alineación entre empleadores y empleados respecto a la tecnología.

Preocupaciones por riesgos y explotación

La encuesta profundizó en las preocupaciones éticas y los riesgos asociados con la inteligencia artificial generativa. Un alarmante 41 % de los encuestados expresó la creencia de que no se estaba prestando la suficiente atención a los estándares éticos para la implementación de la IA. Sorprendentemente, menos de un tercio de las organizaciones consideraban gestionar el riesgo de la IA como una prioridad inmediata. El 29 % lo consideraba una preocupación a largo plazo, mientras que el 23 % declaró que sus organizaciones no tenían planes actuales para abordar el riesgo de la IA.

Los encuestados identificaron varios riesgos principales asociados con la inteligencia artificial generativa, incluida la desinformación y la información falsa, las violaciones de la privacidad, la ingeniería social, la pérdida de propiedad intelectual y el desplazamiento laboral.

De especial preocupación era el temor a que la inteligencia artificial generativa pudiera ser explotada por actores malintencionados, con el 57 % de los encuestados indicando un alto nivel de preocupación al respecto. Además, el 69 % creía que los adversarios estaban utilizando la IA con éxito o incluso con mayor éxito que los profesionales de la confianza digital.

Impacto en los empleos y optimismo

Al examinar el impacto de la IA en los roles laborales, los encuestados creían que la seguridad, las operaciones de TI y la gestión de riesgos y el cumplimiento eran principalmente responsables de garantizar el despliegue seguro de la IA. De cara al futuro, el 19 % de las organizaciones declaró que crearían roles laborales relacionados con funciones de IA en los próximos 12 meses. 

Sin embargo, el 45 % creía que un número significativo de empleos sería eliminado debido a la IA. Curiosamente, el 70 % de los profesionales de la confianza digital seguían siendo optimistas sobre el impacto positivo de la IA en sus roles, pero el 80 % reconoció la necesidad de formación adicional para conservar sus empleos o avanzar en sus carreras.

A pesar de los desafíos e incertidumbres en torno a la IA, una proporción significativa de los encuestados expresó optimismo. El ochenta por ciento creía que la IA tendría un impacto positivo o neutral en su industria, sus organizaciones y sus carreras. Además, el 85 % veía a la IA como una herramienta que extendía la productividad humana, y el 62 % creía que tendría un impacto positivo o neutral en la sociedad en su conjunto.