Pesquisas de cibersegurança da GenAI: insights para uma integração responsável

No cenário tecnológico em rápida evolução, a IA generativa emergiu como uma força transformadora com potencial para remodelar setores e desbloquear novas possibilidades em diversos domínios. Contudo, à medida que as organizações integram cada vez mais a IA generativa em suas operações, torna-se imprescindível manter a vigilância em relação às considerações éticas e à conformidade regulatória para garantir a utilização responsável e sustentável dessa tecnologia de ponta no campo da cibersegurança. Neste artigo, apresentamos as principais conclusões de 11 pesquisas sobre cibersegurança da GenAI realizadas em 2023, lançando luz sobre insights críticos que podem orientar futuras estratégias de cibersegurança.

Adoção do GenAI e preocupações com segurança: empresas menores adotam o GenAI

Uma pesquisa com mais de 900 tomadores de decisão de TI em todo o mundo revelou uma tendência paradoxal. Embora 89% das organizações considerem ferramentas de IA generativa, como o ChatGPT, como potenciais riscos de segurança, impressionantes 95% dessas organizações já as utilizam de alguma forma em seus negócios. Essa discrepância entre o reconhecimento do risco e o uso efetivo ressalta a necessidade de uma abordagem mais abrangente para a segurança cibernética na era da IA ​​generativa.

O lançamento da série GPT-3.5 pela OpenAI no final de 2022 catalisou um aumento significativo nos investimentos em IA generativa em todo o mundo. Empresas, embora já familiarizadas com a tecnologia de IA, redirecionaram seus investimentos para adotar essa novidade. De acordo com a International Data Corporation (IDC), esse aumento nos investimentos em IA generativa sinaliza uma mudança no cenário tecnológico, indicando uma crescente percepção do potencial que a IA generativa possui em diversos setores.

Líderes do setor de tecnologia lutam para acompanhar o ritmo

À medida que a inteligência artificial continua a avançar, ela apresenta desafios formidáveis ​​para as organizações. Apenas 15% dos líderes globais em tecnologia relatam estar adequadamente preparados para atender às demandas da IA ​​generativa. Uma esmagadora maioria de 88% desses líderes enfatiza a necessidade de regulamentaçõestronpara a IA, de acordo com um estudo conduzido pela Harvey Nash. Esses dados ressaltam a necessidade de medidas proativas para reduzir a lacuna entre a inovação em IA e o controle regulatório.

Apesar das preocupações com a segurança, as organizações expressam grande confiança nos benefícios potenciais da IA ​​generativa. Um número significativo de 82% dosdentacredita que a IA generativa lhes proporciona uma vantagem competitiva. Esse otimismo destaca as capacidades promissoras da IA ​​generativa que, se utilizada de forma responsável, pode trazer vantagens substanciais para empresas em diversos setores.

Líderes de segurança estão preocupados com ameaças geradas por IA

O aumento no volume e na sofisticação dos ataques por e-mail nos últimos meses gerou preocupação entre os líderes de segurança. Suspeita-se que a Inteligência Artificial generativa esteja por trás dessa tendência, e especialistas sugerem que isso é apenas o começo. À medida que os ataques gerados por IA se tornam mais comuns, os profissionais de segurança devem permanecer vigilantes e proativos na adaptação de suas defesas.

As organizaçõesdentdiversas preocupações relacionadas à IA generativa, incluindo privacidade de dados e questões cibernéticas (65%), funcionários tomando decisões com base em informações imprecisas (60%), uso indevido por funcionários e riscos éticos (55%) e riscos de direitos autorais e propriedade intelectual (34%). Essas preocupações destacam a natureza multifacetada dos desafios apresentados pela IA generativa e a necessidade de estratégias abrangentes de gestão de riscos.

O futuro dos investimentos em GenAI: Os investimentos em GenAI estão em ascensão

Os investimentos em IA generativa estão prestes a apresentar um crescimento notável, com previsões apontando para um aumento que poderá atingir US$ 143 bilhões até 2027. Os segmentos de software de IA generativa, incluindo plataformas/modelos de IA generativa, desenvolvimento e implantação de aplicativos (AD&D) de IA generativa e software de aplicativos, devem experimentar uma rápida expansão, refletindo a crescente importância da tecnologia em diversos setores.

À medida que as organizações integram cada vez mais a IA generativa em suas operações, novas competências serão necessárias. O surgimento de funções como a de "engenheiros de prompts", especializados em escrever e testar prompts para sistemas de IA generativa, demonstra a evolução do conjunto de habilidades necessárias para a utilização eficaz da IA ​​generativa. Para aproveitar o potencial da IA ​​generativa, as organizações devem desenvolver programas de treinamento personalizados e mapeamento de habilidades para funções-chave.

Desafios no gerenciamento dos riscos da IA ​​GenAI

Uma das principais preocupações em relação à IA generativa é o potencial de interpretação errônea. Quando confrontada com uma pergunta que não consegue responder com precisão, a IA generativa pode recorrer a um processo conhecido como "alucinação da inteligência artificial", no qual inventa uma resposta. Esse desafio ressalta a importância de aprimorar os modelos de IA e garantir que forneçam informações precisas e confiáveis.

Os líderes de Operações de Segurança (SecOps) têm implementado IA generativa no processo de desenvolvimento de software mais rapidamente do que seus pares de DevOps. Um número expressivo de 45% dos líderes de SecOps já integraram IA generativa, relatando economia de tempo significativa, com 57% deles estimando uma economia de pelo menos 6 horas por semana. Em contraste, apenas 31% dosdentde DevOps adotaram IA generativa. Essa discrepância levanta questões sobre o equilíbrio entre ganhos de eficiência e riscos potenciais.

Líderes de TI alarmados com as implicações de segurança do SaaS da GenAI

Com o advento de aplicações de IA generativa como o ChatGPT, os líderes de TI agora precisam levar em consideração as implicações para a segurança de Software como Serviço (SaaS). Notáveis ​​23% dosdentda pesquisa expressaram preocupação com o fato de as aplicações de IA generativa serem o problema de segurança mais preocupante em SaaS. Isso destaca a necessidade de as organizações adaptarem suas estratégias de segurança para lidar com o cenário de ameaças em constante evolução introduzido pela IA generativa.

A IA generativa está prestes a revolucionar diversos setores, incluindo a cibersegurança. Embora as organizações estejam adotando essa tecnologia com entusiasmo devido ao seu potencial transformador, devem fazê-lo com atenção especial à segurança e às considerações éticas. Os resultados dessas pesquisas sobre cibersegurança da GenAI servem como um lembrete oportuno dos desafios e oportunidades apresentados pela IA generativa, incentivando empresas e órgãos reguladores a trabalharem juntos para aproveitar seu potencial de forma responsável e sustentável no cenário digital em constante evolução