Ex-CEO do Google Schmidt incentiva 'desligar' sistemas de IA em certas capacidades

O ex-CEO do Google, Eric Schmidt, alertou os desenvolvedores de inteligência artificial a controlarem seu teto de desenvolvimento. Ele também destacou a importância dos Estados Unidos vencerem a corrida atual de inteligência artificial (IA) contra a China.

Falando no programa This Week com George Stephanopoulos no domingo, Schmidt alertou sobre o potencial dos sistemas de IA operarem de forma independente e até se aprimorarem. 

“Em breve, seremos capazes de ter computadores funcionando por conta própria, decidindo o que querem fazer,” disse Schmidt.

Schmidt: A IA não deve ficar sem supervisão

Schmidt reiterou os riscos do desenvolvimento descontrolado de IA avançada, observando que sistemas capazes de autoaperfeiçoamento representam um perigo significativo. 

“Quando o sistema pode se autoaperfeiçoar, precisamos pensar seriamente em desconectá-lo,” disse o ex-CEO do Google.

Quando Stephanopoulos perguntou a Schmidt se tais sistemas de IA poderiam contra-atacar os esforços para desligá-los, Schmidt respondeu: “Bem, em teoria, é melhor termos alguém com a mão na tomada — metaforicamente.”

Enquanto as preocupações com os riscos existenciais da IA crescem, alguns especialistas argumentam que esses medos são exagerados. O professor Nick Jennings, vice-reitor de pesquisa do Imperial College London, está entre aqueles que descartam previsões do fim do mundo. 

Jennings sustenta que, embora a IA possa se destacar em tarefas específicas, criar sistemas com inteligência semelhante à humana em diversas áreas ainda está muito além das capacidades atuais dos cientistas.

“Desenvolver uma IA que execute uma tarefa singular muito bem é viável,, explicou Jennings. “Mas construir uma IA geral que espelhe a inteligência humana em múltiplas matérias não é algo que possamos esperar no futuro próximo.”

Opiniões divergentes sobre as ameaças da IA

Enquanto isso, as preocupações persistem entre os principais pesquisadores de IA que alertam para os perigos apresentados por objetivos mal definidos e medidas de segurança inadequadas. O professor da UC Berkeley, Stuart Russell, e o pesquisador pós-doutor Michael Cohen argumentam que sistemas poderosos de IA poderiam, em última instância, representar uma ameaça existencial à humanidade se deixados sem supervisão.

Em um artigo de publicado na Science Journal, Russell e Cohen pediram uma supervisão mais rigorosa do desenvolvimento de IA. Eles enfatizaram a necessidade de as empresas de tecnologia provarem a segurança de seus sistemas de IA antes de lançá-los no mercado. Sem objetivos claros e salvaguardas robustas, sistemas avançados de IA poderiam agir contra os interesses humanos, argumentam.

“Se os objetivos dessas IAs entrarem em conflito com os dos humanos, isso pode significar um desastre,, escreveram Russell e Cohen. Eles acreditam que as empresas de tecnologia devem ser responsabilizadas por garantir a segurança de seus sistemas e identificar “linhas vermelhas” críticas que a IA nunca deve cruzar.

Um debate crescente sobre a segurança da IA

O ritmo acelerado do avanço da IA já apresentou desafios, incluindo a disseminação de desinformação, polarização social e viés algorítmico. As preocupações com segurança e regulação ainda não acompanharam o desenvolvimento da tecnologia.

As observações de Schmidt refletem a crescente urgência entre os líderes da indústria para abordar esses desafios. Especialistas como Elon Musk há muito pedem regulamentações preventivas para mitigar os riscos da IA. 

Musk, que já descreveu a IA como “o maior risco que enfrentamos como civilização,” alertou que as autoridades fizeram pouco para abordar seus perigos. Da mesma forma, o físico Stephen Hawking temia que alcançar a singularidade, o ponto em que as máquinas superam a inteligência humana, poderia deixar a humanidade incapaz de controlar sistemas avançados de IA. 

Em sua entrevista, Hawking argumentou que, sem regulamentações, a IA poderia se tornar “a melhor ou a pior coisa a acontecer para a humanidade.”

A competição de IA entre EUA e China se intensifica

Schmidt observou que, embora os EUA anteriormente tivessem uma vantagem sobre a China no desenvolvimento de IA, a lacuna se estreitou significativamente nos últimos seis meses. “A China se equiparou de uma maneira notável,, disse ele, descrevendo a situação atual como uma corrida de alto risco entre as duas superpotências.

“Há um ponto, talvez no próximo ano ou dois, em que os sistemas podem começar a fazer sua própria pesquisa. Eles são chamados de cientistas de IA, em oposição aos cientistas humanos. Então, você passa de ter 1.000 cientistas humanos para um milhão de cientistas de IA. Acho que isso aumenta a inclinação, e quando você está se movendo a esse ritmo, é muito difícil para seus concorrentes acompanharem,", ele observou.

Schmidt acredita que o administração Trump priorizará a competitividade dos EUA em IA, o que ele vê como um passo positivo. “Desde que os valores humanos sejam preservados”, disse ele, “devemos estar bem.”