Quais Medidas Podem Proteger Contra os Riscos de Segurança do ChatGPT?

Na paisagem tecnológica em constante evolução, o ChatGPT rapidamente ganhou destaque, ostentando um recorde de 100 milhões de usuários ativos em apenas dois meses desde seu lançamento em janeiro de 2023. Mas, à medida que as organizações integram cada vez mais essa poderosa ferramenta em suas operações, as sombras dos riscos de segurança se tornam mais densas. Desde as manipulações sutis por parte de atores de ameaças até uma violação significativa de dados e o uso inadvertido por funcionários, as potenciais armadilhas são diversas e de longo alcance.

Riscos de segurança do ChatGPT e perigos imprevistos

Como o aplicativo de crescimento mais rápido na história, o ChatGPT inevitavelmente capturou a atenção de cibercriminosos que buscam explorar suas capacidades. Embora a plataforma em si permaneça segura, há evidências crescentes de que atores de ameaças estão aproveitando o ChatGPT para fins maliciosos. A Check Point Research descobriu casos em que cibercriminosos usam a plataforma para desenvolver malware de roubo de informações e criar e-mails de spear-phishing com sofisticação sem precedentes.

O desafio inerente reside no fato de que o treinamento tradicional de conscientização sobre segurança, projetado para detectar anomalias em e-mails mal elaborados, torna-se menos eficaz quando o ChatGPT está envolvido. A plataforma pode transformar um e-mail mal escrito em uma peça convincente, eliminando as bandeiras vermelhas usuais. Os atores de ameaças podem traduzir perfeitamente e-mails de phishing entre idiomas, contornando filtros baseados em idioma. As implicações são profundas, pois as organizações agora devem adaptar suas medidas de segurança para levar em conta essa nova via de ameaças cibernéticas impulsionada por IA.

Vulnerabilidades no coração do ChatGPT

Em uma revelação chocante, o próprio ChatGPT foi vítima de uma violação de dados em 2023, decorrente de um bug em uma biblioteca de código aberto. A OpenAI divulgou que essa violação expôs inadvertidamente informações relacionadas a pagamentos para 1,2% dos assinantes ativos do ChatGPT durante uma janela específica de nove horas. Dada a enorme base de usuários da plataforma, ela se tornou um alvo atraente para potenciais ataques de 'watering hole', com cibercriminosos buscando explorar vulnerabilidades ocultas.

Este incidente destaca a importância de examinar a arquitetura de segurança de plataformas de IA amplamente utilizadas. As organizações devem estar vigilantes, reconhecendo que uma violação em tal plataforma pode ter efeitos em cascata, impactando milhões de usuários. A urgência de fortalecer o ChatGPT contra vulnerabilidades potenciais torna-se primordial para proteger dados sensíveis e manter a confiança dos usuários.

O ChatGPT opera em uma premissa semelhante à das redes sociais – uma vez que as informações são inseridas, elas se tornam parte da base de conhecimento da plataforma. Essa característica apresenta um desafio único na prevenção de uso indevido por funcionários que podem inadvertidamente expor dados sensíveis colando-os no ChatGPT para buscar assistência. Crucialmente, o ChatGPT retém as entradas do usuário, criando um potencial canal para exposição não intencional de dados.

Para mitigar esse risco, a OpenAI introduziu o ChatGPT Enterprise, um serviço de assinatura pago que garante que as solicitações dos clientes e os dados da empresa não sejam usados para treinar modelos. A adoção desse serviço não é garantida, e as organizações devem navegar pelo desafio de garantir que os funcionários adiram ao uso adequado.

Como aproveitar o ChatGPT de maneira segura

Em resposta a esses riscos emergentes, algumas organizações optaram por bloquear completamente o uso do ChatGPT, potencialmente prejudicando o desempenho geral da empresa a longo prazo. Mas, com a abordagem certa, o ChatGPT pode ser aproveitado de forma segura para desbloquear seus benefícios potenciais. A IA se destaca em tarefas que desafiam a eficiência humana, particularmente no processamento de grandes conjuntos de dados para extrair correlações e temas.

Em vez de bloquear a plataforma, as organizações são incentivadas a adotar uma estratégia de segurança em várias camadas. O serviço de assinatura da OpenAI é um passo na direção certa, mas as organizações também devem considerar ferramentas adicionais. A Menlo Security recomenda a tecnologia de isolamento, não apenas como uma ferramenta DLP, mas também para registrar dados das sessões, garantindo a conformidade com as políticas do usuário final em plataformas como ChatGPT. Essa abordagem baseada em nuvem impede que cargas maliciosas alcancem os dispositivos dos usuários finais, oferecendo uma camada robusta de proteção contra ameaças potenciais.

À medida que as organizações navegam pela paisagem da integração de IA, entender e abordar os riscos de segurança associados ao ChatGPT é crucial. Ao reconhecer os perigos invisíveis representados por atores de ameaças, fortalecer-se contra possíveis violações e implementar estratégias para prevenir o uso indevido por funcionários, as organizações podem aproveitar o ChatGPT de forma segura, desbloqueando seu potencial transformador enquanto protegem informações sensíveis e mantêm a confiança dos usuários.