Ferramentas de Segurança Impulsionadas por IA e o Novo Desafio da DARPA para Desenvolvedores de Código Aberto
- A DARPA lança o Desafio Cibernético de IA (AIxCC) para avançar ferramentas de segurança baseadas em IA, oferecendo prêmios de US$ 20 milhões.
- O impacto da IA na segurança permanece incerto, mas especialistas alertam contra ignorar seu potencial.
- A IA multimodal, que evolui a partir da IA generativa, logo será capaz de interpretar conversas, vídeos e linguagem corporal.
A inteligência artificial (IA), particularmente modelos de linguagem grandes (LLMs) como o GPT, tem sido o foco de discussões nas recentes conferências Black Hat e Def Con em Las Vegas. No entanto, os especialistas estão divididos sobre como a IA impactará a postura de segurança das empresas, desde a proteção de dados internos até o desenvolvimento de aplicativos.
Maria Markstedter, engenheira reversa da Arm e especialista em exploração, parafraseou a declaração do CEO da OpenAI, Sam Altman, de que “a IA provavelmente levará ao fim do mundo, mas, enquanto isso, haverá grandes empresas.” Durante seu discurso principal na Black Hat, Markstedter recomendou o lema “Mova-se rápido, quebre coisas”, enfatizando que os produtos muitas vezes carecem inicialmente de funções de segurança e que as empresas precisam ser forçadas a investir em segurança.
IA generativa e IA multimodal
A IA generativa, que atualmente se concentra no texto, está evoluindo para a IA multimodal, capaz de lidar com chat, respostas em vídeo ao vivo, análise de sentimento e até interpretação da linguagem corporal, segundo Markstedter. Ela ressaltou a importância de manter o anonimato nesses sistemas e repensar a segurança dos dados.
Impacto na Segurança
O impacto da IA na segurança ainda é incerto. Markstedter apontou que a IA já está afetando a segurança dos dados, como evidenciado por funcionários copiando dados para chatbots de IA de caixa preta. No entanto, as implicações mais amplas para a segurança permanecem desconhecidas. Os LLMs podem gerar código malicioso, mas não podem executá-lo, segundo dois ex-funcionários da OpenAI que discutiram o uso potencial da IA na segurança.
Apesar da incerteza, houve consenso de que proibir a IA não é uma solução viável a longo prazo. As empresas estão ansiosas para adotar tecnologias de IA, e a segurança da IA eventualmente exigirá a adoção de LLMs e outras tecnologias de IA. Aqueles que não o fizerem ficarão para trás, alertaram especialistas em segurança.
Adoção da IA na segurança
Markstedter argumentou que integrar agentes autônomos é arriscado, mas é essencial aceitar sua realidade e desenvolver soluções para torná-los mais seguros. “Esta é nossa chance de nos reinventar [e] nossa postura de segurança”, disse ela, pedindo que a comunidade se una e promova a pesquisa.
O desafio cibernético de IA da DARPA
A organização de defesa DARPA desafiou os participantes da Black Hat e Def Con a ajudar a criar um sistema de segurança responsivo de próxima geração baseado em IA. Perri Adams, gerente de programas no Escritório de Inovação em Informações da DARPA, anunciou o Desafio de IA Cibernética (AIxCC) de dois anos durante o evento principal da Black Hat.
O AIxCC visa desenvolver uma nova geração de ferramentas de cibersegurança e oferece um total de US$ 20 milhões em prêmios para as equipes que criarem os melhores sistemas. A competição tem duas categorias: a Categoria Financiada e a Categoria Aberta. Os concorrentes da Categoria Financiada serão selecionados a partir de propostas submetidas a uma solicitação de Pesquisa de Inovação de Pequena Empresa, com até sete pequenas empresas recebendo financiamento de até US$ 1 milhão. Os concorrentes da Categoria Aberta podem se registrar pelo site da competição sem financiamento da DARPA.
Em 2024, a DefCon determinará as cinco melhores empresas, que avançarão para uma segunda rodada de experimentação com um financiamento adicional de US$ 2 milhões. Os vencedores da Def Con de 2025 receberão US$ 4 milhões para o primeiro lugar, US$ 3 milhões para o segundo lugar e US$ 1,5 milhão para o terceiro lugar.
Colaboração com empresas líderes de IA
O AIxCC está em parceria com empresas líderes de IA, incluindo Anthropic, Google, Microsoft e OpenAI. A Open Source Security Foundation (OpenSSF), um projeto da Linux Foundation, atuará como consultora do desafio para orientar as equipes na criação de sistemas de IA capazes de abordar questões vitais de cibersegurança, como a segurança da infraestrutura crítica da nação e das cadeias de suprimentos de software.
As competições do AIxCC serão realizadas na DEF CON e consistirão em duas fases: a fase semifinal e a fase final. Ambas as competições ocorrerão na DEF CON em Las Vegas em 2024 e 2025.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
John Palmer
John Murangiri chegou à Cryptopolitan com habilidades em análise de mercado. John (também conhecido como JP) formou-se na Universidade de Nairobi com bacharelado em comunicação social e estudos de mídia. Ele já contribuiu anteriormente com insights sobre o mercado de criptomoedas para InsideBitcoins.com e Metacoingraph.
