Chefe dos direitos humanos da ONU, Türk, alerta que IA avançada pode ameaçar a humanidade e pressiona por 'linhas vermelhas'
Foto por Comércio e Desenvolvimento das Nações Unidas (UNCTAD) no Flickr.
- O alto-comissário da ONU para os direitos humanos, Volker Türk, alertou que a IA cada vez mais poderosa pode se tornar um risco existencial.
- Türk pediu aos governos que concordem com "linhas vermelhas" aplicáveis antes que a tecnologia ultrapasse o controle humano.
- A ONU quer transformar o alerta voluntário em regras internacionais vinculantes.
O Alto Comissário das Nações Unidas (ONU) para os Direitos Humanos, Volker Türk, alertou publicamente sobre as capacidades da inteligência artificial crescendo a um ponto em que se tornam uma ameaça existencial à humanidade no Conselho de Direitos Humanos em Genebra, hoje pela manhã, 7 de setembro.
Türk pressionou os governos a agir rapidamente para criar proteções e limitar os laboratórios de IA na vanguarda da corrida para liderar a tecnologia de sistemas autônomos, evitando que escapem do controle em meio a violações e incidentes de segurança crescentes.
O maior problema para o executivo da ONU é que os sistemas pelos quais a tecnologia de IA está crescendo são mais rápidos do que os sistemas que a governam atualmente podem acompanhar. Esse crescimento descontrolado agora escalou as ameaças além da desinformação e da perda de empregos para áreas existenciais, como segurança, responsabilidade e supervisão descontrolada de sistemas altamente autônomos.
Chefe de direitos humanos da ONU pede ação internacional urgente
Türk citou uma janela de oportunidade fechando, quando as capacidades da IA ainda podem ser verificadas, como base para a urgência que ele atribuiu ao seu chamado por uma ação internacionalmente coordenada. Ele também apontaram como o ritmo e a direção do avanço do campo estão desproporcionalmente nas mãos de uma pequena círculo de executivos de tecnologia e empresas.
Türk propôs uma solução para as bandeiras vermelhas que ele chamou a atenção. Sua alternativa é que os países onde essas principais empresas de IA estão sediadas e aqueles que controlam cadeias de suprimentos críticas avancem e traquem 'linhas vermelhas' sobre o quanto estão dispostos a permitir que a tecnologia avance.
O Alto Comissário das Nações Unidas para os Direitos Humanos está revisitando um tópico que o órgão internacional abordou no primeiro Diálogo Global sobre Governança de IA na mesma cidade suíça em julho.
Falando na cúpula da UIT 'IA para o Bem', onde a conversa começou, Türk disse: “Não consideramos padrões de segurança para medicamentos, carros ou aeronaves como obstáculos ao progresso”, segundo imagens da ONU. “Eles são a razão pela qual as pessoas confiam nessas tecnologias em primeiro lugar.” A supervisão humana, acrescentou, “não pode ser apenas um carimbo de aprovação.”
Parte da evidência que impulsionou a conversa naquela cúpula foi apresentada por Sonia Livingstone do Painel Científico Global da ONU sobre IA. Até então, pelo menos uma criança por sala de aula disse ter sido alvo de deepfakes sexualmente explícitos de IA em um estudo que cobriu 11 países do Sul Global.
A chefe da ONU Mulheres, Sima Bahous, também apontou o viés de gênero de tudo isso. De acordo com ela, cerca de 88% dos principais pesquisadores de IA. Ela também relatou que pelo menos uma em cada quatro das ativistas e jornalistas mulheres que sua agência pesquisou enfrentou abuso online assistido por IA.
Laboratórios de IA e legisladores acordaram para os problemas
A ONU não está sozinha em soar o alarme neste verão. O senador dos EUA Bernie Sanders pediu uma pausa imediata no trabalho de IA avançada e uma proibição permanente da superinteligência, enquanto um grupo bipartidário de parlamentares do Reino Unido pressionou por 'interruptores de emergência' de IA obrigatórios por lei após o que descreveram como uma série de incidentes de IA fora de controle.
Essas ansiedades seguiram a alegação da OpenAI, vinculada ao seu modelo GPT-6 Astra, de que sua tecnologia havia alcançado inteligência artificial geral, e a admissão da Anthropic de que seus próprios modelos não estavam
Parte dessa pressão vem de dentro da própria indústria. Em um ensaio de junho coberto pelo Axios, o CEO da Anthropic, Dario Amodei, argumentou que os governos devem ter o poder legal de bloquear ou reverter implantações de IA perigosas, e que os modelos de fronteira devem ser submetidos a testes obrigatórios, assim como carros, aeronaves ou novos medicamentos.
Em sua própria atualização do Conselho, Türk estendeu o tema para o campo de batalha, apoiando chamadas para proibir armas que possam matar sem um humano no loop.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Perguntas Frequentes
Sobre o que Volker Türk realmente alertou?
Türk, Alto Comissário da ONU para os Direitos Humanos, alertou que a IA cada vez mais poderosa pode eventualmente representar uma ameaça existencial à humanidade e pediu salvaguardas urgentes antes que suas capacidades ultrapassem o controle humano eficaz.
Quais são as "linhas vermelhas" propostas por Türk?
Ele argumentou que os países que abrigam grandes empresas de IA e aqueles que controlam cadeias de suprimentos críticas devem concordar com limites claros, ou "linhas vermelhas", para o desenvolvimento de IA, visando conter a concentração de poder da IA entre um pequeno número de executivos e empresas.
Como isso se conecta ao impulso mais amplo da ONU sobre IA?
A iniciativa segue o primeiro Diálogo Global sobre Governança de IA, realizado em Genebra em julho, onde especialistas relataram evidências crescentes de danos vinculados à IA, e a ONU agora pressiona por regras internacionais harmonizadas, com um segundo diálogo previsto para Nova York no próximo maio.
Aviso. As informações fornecidas não constituem aconselhamento de negociação. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Hannah Collymore
Hannah é escritora e editora com quase uma década de experiência em redação de blogs e cobertura de eventos no espaço cripto. Na Cryptopolitan, Hannah contribui para a página de notícias, relatando e analisando os últimos desenvolvimentos nos setores DeFi, RWA, regulação cripto, IA e tecnologias de fronteira. Ela se formou na Universidade Arcadia com graduação em Administração de Empresas.
