- A IA generativa emerge como um dos principais riscos empresariais no segundo trimestre de 2023, com preocupações relacionadas à privacidade de dados e cibersegurança.
- Recessões econômicas amplificam os riscos de viabilidade de terceiros, com potenciais impactos nas cadeias de suprimentos e no planejamento financeiro.
- A rápida adoção pública de ferramentas de IA destaca a necessidade de gestão proativa de riscos nos setores tecnológico e econômico.
A inteligência artificial generativa (IA), incluindo modelos proeminentes como o ChatGPT da OpenAI e o Google Bard, surgiu como uma das principais preocupações de risco corporativo no segundo trimestre de 2023, de acordo com um estudo recente da Gartner, Inc.
Insights da pesquisa
Em uma pesquisa abrangente realizada em maio de 2023, a Gartner entrou em contato com 249 executivos seniores de risco corporativo, com o objetivo de oferecer uma perspectiva baseada em benchmarks sobre 20 riscos iminentes. Os Relatórios Trimestrais de Riscos Emergentes, uma análise detalhada, destacam o impacto potencial, o cronograma, o nível de atenção e as oportunidades percebidas associadas a esses riscos.
A disponibilidade em massa da IA generativa foi identificada como o segundo risco mais frequentemente citado. Enquanto isso, a viabilidade de terceiros ocupou o primeiro lugar como o risco emergente rapidamente sob estreita observação na pesquisa do segundo trimestre de 2023. A incerteza no planejamento financeiro e o risco de concentração em nuvem seguiram, completando o top cinco com as tensões comerciais com a China. Esses riscos representam uma mistura de preocupações macroeconômicas atuais, volatilidade geopolítica e questões relacionadas à tecnologia.
Ran Xu, diretora de pesquisa na Prática de Risco e Auditoria da Gartner, acredita que o surgimento repentino da IA generativa no top 10, ocupando a segunda posição, reflete o rápido aumento da conscientização pública e da adoção de ferramentas de IA generativa. Isso também destaca a vasta gama de aplicações potenciais e, consequentemente, os riscos associados.
Riscos da IA Generativa
A Gartner já havia identificado seis riscos inerentes da IA generativa e quatro áreas pertinentes de regulamentação de IA. Para gerenciar eficazmente o risco corporativo, a Gartner enfatiza três áreas fundamentais: propriedade intelectual, privacidade de dados e cibersegurança.
Preocupações com propriedade intelectual
As ferramentas de IA generativa podem integrar inadvertidamente informações em seus conjuntos de dados de treinamento. Ran Xu explicou que as informações alimentadas em uma ferramenta de IA generativa podem se tornar parte de seu conjunto de treinamento. Isso implica que dados sensíveis ou proprietários podem aparecer inadvertidamente nas saídas para outros usuários. Além disso, o uso das saídas dessas ferramentas pode violar inadvertidamente os direitos de propriedade intelectual de usuários anteriores. A Gartner destaca a importância de conscientizar os líderes corporativos sobre a prudência e a transparência necessárias ao empregar essas ferramentas, garantindo que os riscos de propriedade intelectual sejam adequadamente abordados.
Questões de privacidade de dados
As ferramentas de IA generativa podem compartilhar inadvertidamente dados dos usuários com terceiros, como fornecedores ou provedores de serviços, sem aviso prévio. Essas ações podem violar as leis de privacidade em diversas regiões. Notavelmente, a China e a União Europeia já promulgaram regulamentações, com leis propostas em andamento nos EUA, Canadá, Índia e Reino Unido.
Ameaças à cibersegurança
As ferramentas de IA generativa não estão imunes a ameaças cibernéticas. Xu apontou que existem códigos de malware e ransomware produzidos por IA generativa após serem enganados, bem como ataques de 'injeção de prompt' que enganam essas ferramentas para que divulguem informações que não deveriam. Isso abre caminho para a execução em larga escala de ataques de phishing sofisticados.
Condições econômicas e viabilidade de terceiros
Os analistas também destacaram o potencial aumento dos riscos de viabilidade de terceiros devido ao agravamento das condições econômicas. A inflação persistente, menos reativa aos ajustes das taxas de juros e mais duradoura do que o esperado, intensificou as pressões de custos e margens sobre terceiros. À medida que os bancos centrais elevam as taxas de juros para combater a inflação, isso desencadeia uma fase de aperto de crédito, potencialmente empurrando os fornecedores para a suspensão operacional ou insolvência devido aos custos crescentes de empréstimos.
Uma ampla recessão econômica pode levar a uma queda inesperada na demanda, colocando em risco a viabilidade dos fornecedores ou sua capacidade de entregar produtos e serviços com rapidez.
Os especialistas da Gartner delinearam três possíveis repercussões da viabilidade de terceiros para que os gestores de risco acompanhem: perda de insumos e materiais essenciais, suposições errôneas no planejamento financeiro e desafios na cadeia de suprimentos externa.
À medida que o cenário de riscos emergentes evolui, as empresas devem permanecer vigilantes, especialmente no campo da IA generativa. A combinação de avanços tecnológicos e flutuações econômicas exige uma abordagem proativa na gestão de riscos.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Glory Kaburu
Glory é uma jornalista extremamente conhecedora, proficiente em ferramentas de IA e pesquisa. Ela é apaixonada por IA e escreveu vários artigos sobre o assunto. Mantém-se atualizada com os últimos desenvolvimentos em Inteligência Artificial, Aprendizado de Máquina e Aprendizado Profundo, escrevendo regularmente sobre eles.
