Reino Unido Urgi Consenso Global sobre Rótulo de “Dano Catastrófico” da IA na Cúpula de Segurança de IA

Em um movimento inovador, o Primeiro-Ministro britânico Rishi Sunak está liderando uma iniciativa para classificar a inteligência artificial como capaz de “dano catastrófico” na próxima Cúpula de Segurança de IA sediada pelo Reino Unido. A cúpula, agendada para o próximo mês no Bletchley Park, visa estabelecer uma postura global unificada sobre os riscos apresentados pela tecnologia de IA em rápido avanço. O rascunho da comunicação, distribuído aos participantes e obtido pela Bloomberg, delineia preocupações específicas sobre o impacto da IA na cibersegurança e na biotecnologia. À medida que a comunidade internacional lida com as oportunidades transformadoras apresentadas pela IA, Sunak busca posicionar o Reino Unido como líder na moldagem de abordagens regulatórias e no estabelecimento de “guardrails” da indústria.

Preocupações e salvaguardas

No centro do impulso do Reino Unido está o reconhecimento do potencial de “dano significativo, até catastrófico”, decorrente das capacidades mais perigosas dos modelos de IA. O rascunho da comunicação, datado de 16 de outubro, sublinha a necessidade de uma posição internacional conjunta sobre os riscos específicos de segurança associados tanto à IA de propósito geral quanto à IA estreita. Funcionários, representando 28 nações e uma diversa variedade de partes interessadas, estão prestes a deliberar sobre a finalização da comunicação até 25 de outubro.

O documento destaca a natureza dual da IA, reconhecendo suas oportunidades transformadoras, particularmente em serviços públicos como saúde, educação, ciência e energia limpa. Uma pessoa familiarizada com o assunto afirma que este aspecto será um foco proeminente durante a cúpula, lançando luz sobre o potencial positivo que a IA detém para o progresso social.

Mas, o rascunho enfatiza que os riscos, particularmente na “fronteira” do desenvolvimento de IA, exigem métricas de avaliação claras, ferramentas de teste de segurança e aprimoramento da capacidade do setor público. Reconhecendo a necessidade de uma abordagem equilibrada, a cúpula visa abordar tanto as promessas quanto os desafios da IA, garantindo que os avanços sejam aproveitados de forma responsável para beneficiar a humanidade.

Espera-se que os líderes globais ecoem o chamado por maior transparência das empresas envolvidas no desenvolvimento de IA. O rascunho propõe a criação de métricas de avaliação claras, ferramentas de teste de segurança e o desenvolvimento de capacidade relevante do setor público e pesquisa científica. O documento sublinha que os riscos de segurança surgem não apenas da IA de propósito geral, mas também de IA estreita específica que poderia exibir capacidades perigosas.

Coordenação global e dever nas medidas de segurança de IA

Enquanto o Reino Unido assume a liderança, o rascunho e outros documentos distribuídos revelam que a Comissão Europeia está defendendo um processo de colaboração internacional sobre a segurança da IA de fronteira. O bloco europeu busca uma abordagem alinhada com sua própria legislação sobre IA, focando no uso indevido potencial em ciberataques e no risco de sistemas avançados perderem o controle.

Os documentos destacam a responsabilidade dos desenvolvedores que trabalham em capacidades de IA poderosas e potencialmente perigosas. Há uma forte ênfase em garantir a segurança dessas capacidades, com “atores relevantes” instados a fornecer transparência e responsabilidade adequadas ao contexto sobre planos para medir, monitorar e mitigar perigos potenciais. O Reino Unido planeja manter o impulso com reuniões de acompanhamento a cada seis meses, dedicadas a acompanhar o progresso na gestão das oportunidades e riscos associados à IA.

O rascunho da comunicação enfatiza a necessidade de a IA ser projetada, desenvolvida, implantada e usada de uma maneira que priorize o “bem comum” e esteja alinhada com os princípios de ser centrada no ser humano, segura, confiável e responsável. À medida que a comunidade internacional converge no Bletchley Park, o mundo observa para ver se uma postura unificada sobre a segurança da IA emergirá, pavimentando o caminho para um futuro de IA seguro e responsável.