Promessas de segurança de IA do Google sob escrutínio após relatório do Gemini
- O Google lançou um relatório de segurança para seu mais recente modelo de IA, o Gemini 2.5 Pro, várias semanas após o lançamento público do modelo.
- Especialistas afirmam que o relatório carece de detalhes importantes sobre segurança, dificultando a avaliação dos riscos do modelo ou das práticas de segurança do Google.
- O relatório não menciona o próprio Framework de Segurança Frontier (FSF) do Google, uma ferramenta projetada para detectar futuras capacidades de IA de alto risco.
O Google compartilhou um relatório de segurança sobre seu modelo de inteligência artificial principal, o Gemini 2.5 Pro. Especialistas dizem que ele deixa riscos-chave sem explicação.
A empresa publicou o artigo técnico na quinta-feira, várias semanas após lançar o Gemini 2.5 Pro para os clientes. O documento lista os testes internos que o Google realizou no modelo, mas oferece poucos dados sobre como o sistema se comporta sob sobrecarga ou uso indevido. Pesquisadores que revisaram o artigo disseram ao TechCrunch que a falta de detalhes torna difícil avaliar se o Gemini 2.5 Pro é realmente seguro para uso generalizado.
Relatórios técnicos são uma das principais formas pelas quais o público aprende o que os sistemas avançados de IA podem e não podem fazer. Um relatório minucioso frequentemente mostra onde um modelo falha e onde pode ser mal utilizado. Muitos pesquisadores de IA tratam esses artigos como esforços honestos para respaldar as alegações de segurança de uma empresa.
O Google lida com a divulgação de segurança de maneira diferente.
O Google publica um relatório apenas após um modelo deixar de ser marcado como “experimental” e transfere certas descobertas de “capacidades perigosas” para uma auditoria separada que não é publicada imediatamente. Como resultado, o relatório público não cobre todas as ameaças que o Google testou.
Vários analistas disseram que o novo documento do Gemini 2.5 Pro é um caso claro de divulgação limitada. Eles também notaram que o relatório nunca se refere ao Framework de Segurança Fronteiriça (Frontier Safety Framework) do Google, ou FSF, uma política anunciada pela empresa no ano passado para identificar futuros poderes da IA que poderiam causar “danos severos”.
“Este relatório é muito escasso, contém informações mínimas e chegou semanas após o modelo ser lançado ao público”, disse Peter Wildeford, co-fundador do Instituto de Política e Estratégia de IA. “É impossível confirmar se a Google está cumprindo suas próprias promessas e, portanto, impossível julgar a segurança e a segurança de seus modelos.”
Thomas Woodside, co-fundador do Projeto de IA Segura, disse que estava feliz que qualquer artigo tivesse aparecido, mas duvidou do plano do Google de lançar atualizações regulares. Ele observou que a última vez que a empresa compartilhou resultados de testes de capacidades perigosas foi em junho de 2024, e que o artigo cobria um modelo anunciado em fevereiro do mesmo ano.
A confiança diminuiu ainda mais quando os observadores não viram nenhum relatório de segurança para o Gemini 2.5 Flash, um modelo mais leve e rápido que o Google revelou na semana passada. Um porta-voz da empresa disse que um relatório sobre o Flash está “chegando em breve”.
“Espero que esta seja uma promessa real de começar a dar atualizações mais frequentes”, disse Woodside. “Essas atualizações devem incluir resultados para modelos que ainda não chegaram ao público, porque esses modelos também podem representar riscos sérios.”
O Google agora fica aquém da transparência
O nota de segurança da Meta para seus novos modelos Llama 4 tem apenas algumas páginas, enquanto a OpenAI optou por não publicar nenhum relatório para sua série GPT‑4.1.
A escassez de detalhes ocorre em um momento tenso. Dois anos atrás, o Google disse ao governo dos EUA que publicaria relatórios de segurança para todos os modelos de IA “significativos” dentro do escopo. A empresa fez promessas semelhantes a funcionários de outros países, dizendo que ofereceria “transparência pública” sobre seus produtos de IA.
Kevin Bankston, conselheiro sênior de governança de IA no Centro para Democracia e Tecnologia, chamou as divulgações dos principais laboratórios de uma “corrida para o fundo” em termos de segurança.
“Combinado com relatos de que laboratórios rivais, como a OpenAI, reduziram o tempo de testes de segurança antes do lançamento de meses para dias, essa documentação mísera para o principal modelo do Google conta uma história preocupante de uma corrida para o fundo na segurança e transparência da IA, à medida que as empresas apressam seus modelos no mercado”, acrescentou.
O Google afirma que grande parte de seu trabalho de segurança ocorre sob portas fechadas. A empresa afirma que cada modelo passa por testes rigorosos, incluindo “red teaming adversarial”, antes de qualquer lançamento público.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Noor Bazmi
Noor Bazmi contribui para a equipe de notícias da Cryptopolitan, equipada com graduação em Estudos de Mídia. Noor cobre notícias sobre blockchain, criptomoedas, inteligência artificial, Big Tech, mercados de veículos elétricos, economia global e mudanças nas políticas governamentais. Ela está cursando marketing para se conectar com audiências globais.
