Federais instalam “apocalíptico da IA” no Instituto de Segurança de IA entre cinco novos membros

O Instituto de Segurança de IA dos EUA, sob o Departamento de Comércio, anunciou cinco novos membros para sua equipe de liderança. Entre os cinco novos membros está um que previu que há 50% de chance de que o desenvolvimento da inteligência artificial acabe com a humanidade. Mas esta não é sua única apresentação; há algumas inovações muito importantes sob seu currículo.

Novos membros da equipe de segurança de IA

Há um argumento em andamento há bastante tempo de que a inteligência artificial se tornará uma ameaça existencial para os humanos, mas muitos especialistas dizem que isso é exagerado e superestimado, e esse tipo de previsão pode impedir os avanços na área. A tarefa em mãos para a equipe recém-nomeada é incentivar o desenvolvimento de maneira que a IA se torne benéfica para as pessoas, contra essa percepção de dano sob o Instituto Nacional de Padrões e Tecnologia (NIST).

A diretora do NIST e Subsecretária de Comércio para Padrões e Tecnologia, Laurie E. Locascio, disse:

“Estou muito satisfeita em dar as boas-vindas a esses especialistas talentosos à equipe de liderança do Instituto de Segurança de IA dos EUA para ajudar a estabelecer a ciência de medição que apoiará o desenvolvimento de uma IA segura e confiável. Cada um traz experiências únicas que ajudarão o instituto a construir uma base sólida para a segurança da IA no futuro.”

Entre os novos membros está Adam Russell, diretor de visão, que também é diretor da divisão de IA do Instituto de Ciências da Informação da Universidade da Califórnia. O Prof. Rob Reich será o conselheiro sênior; ele é de Stanford e trabalha como diretor associado do Instituto de IA Centrada no Humano, e também é especialista em ciência política.

Mara Quintero Campbell foi nomeada diretora de operações e chefe de gabinete; ela está atualmente na Administração de Desenvolvimento Econômico do Comércio como diretora de operações adjunta. Mark Latonero será o chefe de engajamento internacional; ele é do Escritório de Política de Ciência e Tecnologia da Casa Branca e trabalha como diretor adjunto do Escritório da Iniciativa Nacional de IA.

Apocalíptico da IA a bordo — mas há mais nisso

O novo membro chamado de apocalíptico da IA é nenhum outro senão Paul Christiano. Ele foi nomeado chefe de segurança de IA da equipe. Ele é um ex-pesquisador da OpenAI e fundador do Alignment Research Center. Ele também é o inventor de uma técnica fundamental de segurança de IA conhecida como aprendizado por reforço, que incorpora feedback humano. Ele recebeu o rótulo de apocalíptico da IA depois que foi perguntado em um podcast sobre a chance de as ambições humanas de IA terminarem em desgraça, ao que ele mostrou bastante preocupação sobre a humanidade ser destruída, disse ele 

“Acho que talvez haja uma chance de 10-20% de uma tomada de poder pela IA, com a maioria dos humanos mortos. Levo isso muito a sério.”

Ele também disse,

“No geral, talvez você esteja chegando a uma chance de 50/50 de desgraça logo após ter sistemas de IA de nível humano.”

Fonte: Podcast Bankless.

Christiano expressou esses pensamentos no podcast Bankless com os apresentadores David Hoffman e Ryan Sean Adams, mas ele insiste que suas opiniões não são tão extremas quanto as do famoso apocalíptico da IA Eliezer Yudkowsky, que sugere um cenário de destruição total.

A Secretária de Comércio dos EUA, Gina Raimondo, também disse que, para salvaguardar a liderança global na IA responsável e garantir a segurança da IA e mitigar os riscos associados, precisamos de talentos de elite da nação, e é por isso que esses indivíduos foram selecionados, sendo os melhores em seus campos para agora integrar a equipe de liderança executiva do Instituto de Segurança de IA dos EUA.