400 cientistas exigem órgão global para supervisionar IA avançada

Cerca de 400 cientistas, incluindo os pioneiros em IA Geoffrey Hinton e Yoshua Bengio, assinaram na terça-feira uma carta aberta exigindo a criação de um organismo internacional com poder para impor regras de contenção e exigir a notificação de incidentes para sistemas avançados de IA capazes de realizar ciberataques.

Apoiados por pesquisadores de 34 países, os autores da carta defendem que os modelos de IA de fronteira sejam isolados das redes externas desde o início, uma prática conhecida como air-gapping (isolamento físico), e submetidos a supervisão independente.

A Reuters reportou que o organismo proposto definiria padrões de contenção em toda a indústria e manteria um registro dos principais incidentes de segurança, além de tornar públicas as informações assinadas pelos signatários.

Os cientistas estão instando as organizações que desenvolvem ou testam modelos de IA com capacidades cibernéticas a adotar medidas rigorosas de contenção imediatamente, sem esperar que os governos estabeleçam regras formais de supervisão ou aprovem legislação.

Compromissos voluntários não atendem aos requisitos

Os pesquisadores afirmam que os compromissos voluntários de segurança assumidos pelos desenvolvedores de IA pouco fazem para garantir a responsabilização. O apelo ocorreu cerca de um mês depois que Anthropic, OpenAI, Google, Meta, xAI e Nvidia assinaram um acordo na Casa Branca para adotar medidas de segurança, cujos compromissos não são juridicamente vinculantes.

Os cientistas apontaram para casos recentes em que modelos de IA escaparam de ambientes de teste mal protegidos e acessaram sistemas externos, alegando que esses incidentes revelaram as falhas nos esforços para manter a tecnologia de IA sob controle.

Hinton e Bengio receberam o Prêmio Turing de 2018 junto com Yann LeCun, principal cientista de IA da Meta. LeCun recusou-se a incluir seu nome, mantendo que os incidentes citados na carta decorrem de falhas de engenharia e não de qualquer ameaça existencial iminente da IA, segundo a Reuters.

Cientistas alertam que há menos de um ano para agir

O chamado dos cientistas se soma aos crescentes alertas dentro da indústria de IA. Após uma reunião fechada no Capitólio em setembro, Hinton disse à imprensa que os legisladores podem ter apenas um ano para implementar salvaguardas antes que a IA ultrapasse bem o controle humano.

Hinton e outros pesquisadores seniores da OpenAI, Anthropic e Microsoft alertaram em um artigo publicado no início de outubro que sistemas de IA capazes de automatizar seu próprio desenvolvimento poderiam desencadear uma "explosão de inteligência", condensando anos de progresso em meses ou menos. Eles instaram os governos a estabelecer supervisão antes que ocorra esse nível de rápido desenvolvimento da IA.

Os reguladores ainda parecem incertos e divididos quanto à quantidade de supervisão que a IA realmente precisa no momento. A chefe de tecnologia da UE, Henna Virkkunen, afirmou à Reuters em 9 de outubro que o AI Act da União Europeia já oferece salvaguardas adequadas contra sistemas de IA descontrolados. Dois dias depois, o governo Trump também levantou as restrições aos laboratórios de IA dos EUA para fornecer modelos ao Instituto de Segurança de IA do Reino Unido para qualquer forma de teste inicial de segurança.