O ex-CEO do Google, Schmidt, defende o "desconectar" dos sistemas de IA quando estes atingirem determinadas capacidades

O ex-CEO do Google, Eric Schmidt, alertou os desenvolvedores de inteligência artificial para que controlem o limite de seu desenvolvimento. Ele também destacou a importância de os Estados Unidos vencerem a atual corrida pela inteligência artificial (IA) contra a China.

" da ABC News This Week with George Stephanopoulos no domingo, Schmidt alertou sobre o potencial dos sistemas de IA operarem de forma independentedentaté mesmo se aprimorarem. 

“Em breve, seremos capazes de ter computadores funcionando por conta própria, decidindo o que querem fazer”, disse Schmidt.

Schmidt: A IA não deve ser deixada sem controle

Schmidt reiterou os riscos do desenvolvimento descontrolado da IA ​​avançada, observando que sistemas capazes de autoaperfeiçoamento representam um perigo significativo. 

“Quando o sistema consegue se aprimorar sozinho, precisamos pensar seriamente em desconectá-lo”, disse o ex-CEO do Google.

Quando Stephanopoulos perguntou a Schmidt se tais sistemas de IA poderiam neutralizar as tentativas de desativá-los, Schmidt respondeu: "Bem, em teoria, é melhor termos alguém com a mão na tomada — metaforicamente falando."

Embora as preocupações com os riscos existenciais da IA ​​estejam aumentando, alguns especialistas argumentam que esses temores são exagerados. O professor Nick Jennings, vice-reitor de pesquisa do Imperial College London, está entre aqueles que rejeitam as previsões apocalípticas. 

Jennings argumenta que, embora a IA possa se destacar em tarefas específicas, criar sistemas com inteligência semelhante à humana em diversas áreas ainda está muito além das capacidades atuais dos cientistas.

“Desenvolver uma IA que execute uma tarefa específica muito bem é possível”, explicou Jennings. “Mas construir uma IA geral que espelhe a inteligência humana em múltiplas áreas não é algo que podemos esperar num futuro próximo.”

Opiniões divergentes sobre as ameaças da IA

Entretanto, persistem as preocupações entre os principais pesquisadores de IA, que alertam para os perigos representados por objetivos mal defie medidas de segurança inadequadas. O professor Stuart Russell, da UC Berkeley, e o pesquisador de pós-doutorado Michael Cohen argumentam que sistemas de IA poderosos podem, em última análise, representar uma ameaça existencial para a humanidade se não forem controlados.

Em um artigo de opinião publicado na revista Science, Russell e Cohen defenderam uma supervisão mais rigorosa do desenvolvimento da IA. Eles enfatizaram a necessidade de as empresas de tecnologia comprovarem a segurança de seus sistemas de IA antes de lançá-los no mercado. Sem objetivos claros e salvaguardas robustas, os sistemas avançados de IA poderiam agir contra os interesses humanos, argumentam.

“Se os objetivos dessas IAs entrarem em conflito com os dos humanos, isso pode ser desastroso”, escreveram Russell e Cohen. Eles acreditam que as empresas de tecnologia devem ser responsabilizadas por garantir a segurança de seus sistemas e identificardentlinhas vermelhas” críticas que a IA jamais deve ultrapassar.

Um debate crescente sobre a segurança da IA

O ritmo acelerado dos avanços da IA ​​já apresentou desafios, incluindo a disseminação de desinformação, a polarização social e o viés algorítmico. As preocupações com a segurança e a regulamentação ainda não acompanharam o desenvolvimento da tecnologia.

As declarações de Schmidt refletem a crescente urgência entre os líderes do setor em abordar esses desafios. Especialistas como Elon Musk há muito defendem regulamentações preventivas para mitigar os riscos da IA. 

Musk, que certa vez descreveu a IA como o “maior risco que enfrentamos como civilização”, alertou que as autoridades têm feito pouco para lidar com seus perigos. Da mesma forma, o físico Stephen Hawking temia que alcançar a singularidade, o ponto em que as máquinas superam a inteligência humana, poderia deixar a humanidade incapaz de controlar sistemas avançados de IA. 

Em sua entrevista, Hawking argumentou que, sem regulamentação, a IA poderia se tornar "a melhor ou a pior coisa que já aconteceu à humanidade"

A competição entre EUA e China em IA se intensifica

Schmidt observou que, embora os EUA anteriormente tivessem uma vantagem sobre a China no desenvolvimento de IA, a diferença diminuiu significativamente nos últimos seis meses. "A China alcançou os EUA de uma forma notável", disse ele, descrevendo a situação atual como uma corrida de alto risco entre as duas superpotências.

“Haverá um momento, talvez no próximo ano ou dois, em que os sistemas poderão começar a fazer suas próprias pesquisas. Eles são chamados de cientistas de IA, em oposição aos cientistas humanos. Então, você passa de ter 1.000 cientistas humanos para um milhão de cientistas de IA. Acho que isso acelera o processo, e quando você está avançando nesse ritmo, é muito difícil para seus concorrentes alcançarem”, comentou ele.

Schmidt acredita que o governo Trump dará prioridade à competitividade dos EUA em IA, o que ele considera um passo positivo. "Desde que os valores humanos sejam preservados", disse ele, "tudo ficará bem".