A incerteza reina à medida que o uso de IA generativa cresce – pesquisa da ISACA revela

Uma pesquisa recente conduzida pela ISACA, a associação global de confiança digital, trouxe à tona a crescente incerteza em torno da inteligência artificial generativa (IA). A pesquisa, intitulada “Generative AI 2023: An ISACA Pulse Poll”, entrevistou mais de 2.300 profissionais que trabalham em áreas como cibersegurança, auditoria de TI, governança, privacidade e risco. Ela revelou uma discrepância notável entre o alto uso de IA generativa e a ausência de políticas abrangentes das empresas que regem seu uso.

A pesquisa descobriu que uma porcentagem significativa de organizações está permitindo que os funcionários usem IA generativa, mesmo na ausência de políticas explícitas. Apenas 28% das organizações relataram ter políticas que permitem expressamente o uso de IA generativa, e apenas 10% afirmaram ter uma política abrangente formal em vigor.

Chocantemente, mais de um em cada quatro organizações afirmou não ter nem uma política nem planos para criar uma. Além disso, 40% relataram que os funcionários estavam usando IA generativa apesar da ausência de políticas formais, e outros 35% estavam incertos sobre se tal uso estava ocorrendo.

A IA generativa está sendo empregada em vários domínios dentro das organizações, incluindo criação de conteúdo, aumento de produtividade, automação de tarefas, atendimento ao cliente e tomada de decisões.

Falta de familiaridade e treinamento

Enquanto os funcionários estão ativamente adotando a IA generativa, a pesquisa descobriu que as organizações estão ficando para trás em fornecer treinamento adequado. Apenas seis por cento das organizações dos respondentes estão oferecendo treinamento de IA para todos os membros do pessoal. Mais alarmante ainda, 54% relataram que nenhum treinamento de IA foi fornecido, mesmo para equipes diretamente impactadas pela implementação da IA. Além disso, apenas 25% dos respondentes sentiram que tinham um alto nível de familiaridade com a IA generativa.

Jason Lau, diretor do conselho da ISACA e CISO da Crypto.com, enfatizou a necessidade de as organizações se adaptarem e fornecerem políticas, orientações e treinamento para garantir o uso responsável e ético da IA generativa. Ele afirmou que os funcionários não estavam esperando permissão para aproveitar a IA generativa para seu trabalho, enfatizando a necessidade de maior alinhamento entre empregadores e funcionários em relação à tecnologia.

Preocupações com riscos e exploração

A pesquisa aprofundou as preocupações éticas e os riscos associados à IA generativa. Alarmantemente, 41% dos respondentes expressaram a crença de que atenção insuficiente estava sendo dada aos padrões éticos para a implementação da IA. Surpreendentemente, menos de um terço das organizações considerou gerenciar o risco de IA uma prioridade imediata. Vinte e nove por cento o consideraram uma preocupação de longo prazo, enquanto 23% afirmaram que suas organizações não tinham planos atuais para abordar o risco de IA.

Os respondentes identificaram vários riscos principais associados à IA generativa, incluindo desinformação e informação falsa, violações de privacidade, engenharia social, perda de propriedade intelectual e deslocamento de empregos.

Particularmente preocupante era o medo de que a IA generativa pudesse ser explorada por agentes mal-intencionados, com 57% dos respondentes indicando um alto nível de preocupação nesse aspecto. Além disso, 69% acreditavam que os adversários estavam usando a IA com sucesso ou até mais sucesso do que os profissionais de confiança digital.

Impacto nos empregos e otimismo

Examinando o impacto da IA nos papéis profissionais, os respondentes acreditavam que segurança, operações de TI e risco e conformidade eram principalmente responsáveis por garantir a implantação segura da IA. Olhando para o futuro, 19% das organizações afirmaram que estariam criando cargos relacionados às funções de IA nos próximos 12 meses. 

No entanto, 45% acreditavam que um número significativo de empregos seria eliminado devido à IA. Curiosamente, 70% dos profissionais de confiança digital permaneceram otimistas quanto ao impacto positivo da IA em seus papéis, mas 80% reconheceram a necessidade de treinamento adicional para manter seus empregos ou avançar em suas carreiras.

Apesar dos desafios e incertezas em torno da IA, uma proporção significativa dos respondentes expressou otimismo. Oitenta por cento acreditavam que a IA teria um impacto positivo ou neutro em sua indústria, organizações e carreiras. Além disso, 85% viam a IA como uma ferramenta que estendia a produtividade humana, e 62% acreditavam que teria um impacto positivo ou neutro na sociedade como um todo.