Governo federal nomeia “Caoseiro da IA” para o Instituto de Segurança da IA, juntamente com outros cinco novos membros

O Instituto de Segurança de IA dos EUA, vinculado ao Departamento de Comércio, anunciou cinco novos membros para sua equipe de liderança. Entre os cinco novos membros está um que previu que há 50% de chance de o desenvolvimento da inteligência artificial acabar com a humanidade. Mas essa não é sua única contribuição; ele possui algumas inovações muito importantes em seu currículo.

Novos membros da equipe de segurança de IA

Há algum tempo se discute que a inteligência artificial se tornará uma ameaça existencial para a humanidade, mas muitos especialistas afirmam que isso é exagerado e superestimado, e que esse tipo de previsão pode prejudicar os avanços na área. A tarefa da equipe recém-nomeada é incentivar o desenvolvimento de forma que a IA se torne benéfica para as pessoas, contrariando essa percepção de malefícios defendida pelo Instituto Nacional de Padrões e Tecnologia (NIST).

A diretora do NIST e subsecretária de Comércio para Padrões e Tecnologia, Laurie E. Locascio, disse:

“É com grande satisfação que dou as boas-vindas a esses talentosos especialistas à equipe de liderança do Instituto de Segurança de IA dos EUA, que ajudarão a estabelecer a ciência da medição que apoiará o desenvolvimento de IA segura e confiável. Cada um deles traz experiências únicas que ajudarão o instituto a construir uma base sólida para a segurança da IA ​​no futuro.”

Entre os novos membros está Adam Russell, diretor de visão estratégica, que também é diretor da divisão de IA do Instituto de Ciências da Informação da Universidade da Califórnia. O professor Rob Reich será o consultor sênior; ele é de Stanford, trabalha como diretor associado do Instituto de IA Centrada no Ser Humano e também é especialista em ciência política.

Mara Quintero Campbell foi nomeada diretora de operações e chefe de gabinete. Atualmente, ela ocupa o cargo de vice-diretora de operações na Administração de Desenvolvimento Econômico do Departamento de Comércio. Mark Latonero será o chefe de engajamento internacional. Ele vem do Escritório de Políticas de Ciência e Tecnologia da Casa Branca e trabalha como vice-diretor do Escritório da Iniciativa Nacional de Inteligência Artificial.

Um pessimista da IA ​​está a bordo — mas há mais por trás disso

O novo membro apelidado de pessimista da IA ​​é ninguém menos que Paul Christiano. Ele foi nomeado chefe de segurança de IA da equipe. Ex-pesquisador da OpenAI e fundador do Alignment Research Center, Christiano é também o inventor de uma técnica fundamental de segurança de IA conhecida como aprendizado por reforço, que incorpora feedback humano. Ele recebeu o rótulo de pessimista da IA ​​após ser questionado em um podcast sobre a possibilidade de as ambições humanas em relação à IA terminarem em desastre, ao que demonstrou grande preocupação com a possibilidade da humanidade estar condenada 

"Acho que existe uma probabilidade de 10 a 20% de a IA dominar o mundo, com a morte de muitos humanos. Levo isso muito a sério."

Ele também disse:

“No geral, talvez você esteja chegando a uma probabilidade de 50/50 de fracasso logo após ter sistemas de IA com nível de inteligência artificial semelhante ao humano.”

Fonte: Podcast Bankless.

Christiano expressou essas ideias no podcast Bankless com os apresentadores David Hoffman e Ryan Sean Adams, mas insiste que suas opiniões não são tão extremas quanto as do famoso pessimista da IA, Eliezer Yudkowsky, que sugere um cenário de catástrofe total.

A Secretária de Comércio dos EUA, Gina Raimondo, também afirmou que, para salvaguardar a liderança global em IA responsável e garantir a segurança da IA , mitigando os riscos associados a ela, precisamos dos melhores talentos do país. Por isso, esses indivíduos, os melhores em suas áreas, foram selecionados para integrar a equipe de liderança executiva do Instituto de Segurança de IA dos EUA.