IA Generativa levanta preocupações entre líderes empresariais: estudo

Mais de 90% dos executivos seniores expressam preocupações sobre o uso não monitorado de ferramentas de IA generativa

Um estudo recente conduzido pelo fornecedor de cibersegurança Kaspersky revelou crescentes preocupações entre executivos de alto nível sobre a proliferação não regulamentada de ferramentas de inteligência artificial generativa (GenAI) em suas organizações. Com 90% dos líderes empresariais seniores expressando preocupações sobre a adoção descontrolada dessas ferramentas, é evidente que a IA generativa está se tornando cada vez mais integrada em várias operações empresariais.

Infiltração silenciosa da IA generativa

O estudo da Kaspersky descobriu que mais da metade (53%) dos executivos seniores entrevistados acreditam que a IA generativa agora está ativamente “impulsionando” certas linhas de negócios em suas organizações. No entanto, 59% deles também expressaram profundas preocupações sobre o que descreveram como uma “infiltração silenciosa” da IA generativa, levando a riscos cibernéticos aumentados. Esse fenômeno de “IA sombra”, onde os funcionários incorporam a IA generativa sem a devida supervisão, apresenta desafios significativos para a segurança e governança de dados.

Uma descoberta alarmante é que apenas 22% dos líderes empresariais entrevistados discutiram a implementação de políticas internas de governança para monitorar o uso da IA generativa em suas organizações. Além disso, 91% admitiram precisar de uma melhor compreensão de como essas ferramentas são usadas para mitigar riscos de segurança.

David Emm, pesquisador principal de segurança da Kaspersky, enfatizou a urgência de abordar essa questão, afirmando: “Dado que a evolução rápida da IA Generativa atualmente não mostra sinais de abrandar, quanto mais essas aplicações operarem sem supervisão, mais difícil será controlá-las e protegê-las em grandes funções empresariais como RH, finanças, marketing ou até mesmo TI.”

Preocupações com violação de dados

A IA generativa depende de aprendizado contínuo por meio de entradas de dados, tornando a proteção de dados uma preocupação primordial. Mesmo quando usada de boa fé, os funcionários podem transmitir inadvertidamente dados sensíveis fora da organização, potencialmente causando uma violação de dados. A pesquisa da Kaspersky refletiu essa preocupação, com 59% dos líderes expressando sérias apreensões sobre o risco de perda de dados.

Apesar dessas apreensões, o estudo também revelou que 50% dos líderes empresariais planejam aproveitar a IA generativa de alguma capacidade, principalmente para automatizar tarefas repetitivas. Além disso, 44% pretendem integrar ferramentas de IA generativa em suas rotinas diárias. Notavelmente, 24% indicaram que estavam inclinados a usar a IA generativa para automatizar funções de TI e segurança.

Emm comentou sobre essa tendência, dizendo: “Pode-se assumir que a perspectiva de perda de dados sensíveis e perda de controle de unidades de negócios críticas poderia fazer a alta direção parar para pensar, mas nossas descobertas revelam que quase um quarto dos chefes da indústria estão atualmente considerando a delegação de algumas de suas funções mais importantes à IA.”

No entanto, ele também enfatizou a necessidade de uma compreensão abrangente da gestão de dados e políticas robustas antes de integrar ainda mais a GenAI no ambiente corporativo.

A discussão sobre os riscos e benefícios da IA generativa ganhou destaque. O primeiro-ministro do Reino Unido, Rishi Sunak, pediu recentemente maior conscientização sobre os riscos associados à IA generativa. Isso ocorre antes da Cúpula de Segurança da IA em Bletchley Park, onde líderes da indústria e especialistas discutirão o futuro da regulação e a integração dessa tecnologia emergente.

Espada de dois gumes da IA generativa

Fabien Rech, Vice-Presidente Sênior e Gerente Geral da Trellix, destacou a natureza dual da IA generativa, afirmando: “A IA generativa é uma espada de dois gumes – à medida que o cenário de cibersegurança continua a evoluir, a proliferação da IA generativa apenas adiciona ainda mais complexidade à mistura.”

Rech enfatizou a importância das organizações estarem cientes das implicações da tecnologia de IA generativa e como ela pode ser aproveitada e integrada efetivamente. Embora as ferramentas de IA generativa ofereçam o benefício de simplificar tarefas do dia a dia e melhorar a produtividade, também há preocupações sobre seu potencial uso indevido em atividades maliciosas, como injeção de código, phishing, engenharia social e tecnologia deepfake.

Ele instou as organizações a priorizarem medidas de segurança robustas e a integração de soluções tecnológicas apropriadas para construir proteção resiliente contra ameaças cibernéticas.