Um terço das empresas do Reino Unido cita a segurança de dados como uma grande preocupação na adoção de LLMs

Uma em cada três empresas no Reino Unido preocupa-se com a segurança de seus dados ao usar Modelos de Linguagem de Grande Escala (LLMs) porque evoluíram de assistentes que respondem a comandos ou perguntas para sistemas independentes que atuam sem intervenção humana constante.

Como resultado, essas organizações estão hesitantes em incorporar totalmente Agentes de IA em seus sistemas operacionais porque temem perder o controle de seus dados e segurança para máquinas que podem 'pensar por si mesmas'.

O governo do Reino Unido está a tomar medidas para abordar esses desafios. O Ministro do Gabinete, Pat McFadden, anunciou a desclassificação de uma avaliação de inteligência indicando que a IA irá escalar as ameaças cibernéticas nos próximos anos.

Em 2024, o NCSC recebeu quase 2.000 relatórios de ataques cibernéticos, com quase 90 considerados "significativos" e 12 no "extremo superior da severidade". Isso foi três vezes o número de ataques graves em comparação com o ano anterior.

Empresas do Reino Unido levantam bandeiras vermelhas sobre a segurança de dados em LLMs

As empresas no Reino Unido devem cumprir regulamentações rigorosas que protegem os dados das pessoas e impedem seu mau uso, como a Lei de Proteção de Dados do Reino Unido e o Regulamento Geral sobre a Proteção de Dados (GDPR) da UE.

Empresas que violam essas leis correm o risco de ação legal e danos à sua reputação, por isso estão a repensar suas estratégias de LLM. A IA poderia revelar informações privadas ou gerar resultados enganosos sem a supervisão humana cuidadosa ou a solicitação precisa. 

Inicialmente, ferramentas de IA como chatbots forneciam respostas fixas, enquanto termostatos inteligentes apenas mudavam a temperatura seguindo regras simples e sem pensar ou aprender com novos dados, ações anteriores ou os resultados de suas decisões. No entanto, os Agentes de IA hoje usam LLMs para aprender com dados, alterar suas ações com base em novas informações e resolver diferentes problemas raciocinando como um ser humano. 

Mas isso é apenas uma fração de uma preocupação muito maior, pois as pessoas também podem solicitar ao agente para lidar com uma tarefa, e ele a dividirá em atividades menores, abordará cada uma individualmente e depois avaliará os resultados. Além disso, alguns agentes podem se associar para lidar com uma tarefa complexa, onde um deles trabalha no trabalho enquanto o outro verifica os resultados para melhorar o resultado. 

Embora esse crescimento ajude as empresas a automatizar operações e reduza o tempo que as equipes humanas teriam usado, também é uma ameaça porque, quanto mais decisões esses agentes tomam por conta própria, mais difícil se torna para nós entender, prever ou controlar totalmente o que estão fazendo. Da mesma forma, as consequências de seus erros podem crescer exponencialmente porque esses Agentes de IA atuam sem parar para entrada humana. 

Empresas adotam agentes de IA com cautela em todos os departamentos

Muitas empresas no Reino Unido usam agentes de IA em suas operações diárias, com departamentos como atendimento ao cliente, recursos humanos (RH) e marketing testando as ferramentas lentamente e monitorando-as atentamente.

Um bom exemplo de negócio é a Pets at Home, que construiu um agente de IA para sua equipe veterinária fornecer respostas rápidas e suporte durante os check-ups de animais de estimação, mostrando o quanto os agentes de IA permanecem úteis para pequenos papéis em trabalhos reais. 

Atualmente, a maioria dos sistemas de IA agencial precisa de pessoas para guiá-los, verificar seu trabalho e corrigir erros porque não estão prontos para substituir os humanos completamente sem supervisão. No entanto, o futuro pode exigir que as empresas tomem decisões difíceis que lhes permitam incorporar agentes de IA em sistemas, mas também manter o controle.