Cofundador da OpenAI alerta que inteligência artificial superinteligente será 'imprevisível'

O cofundador da OpenAI, Ilya Sutskever, compartilhou insights sobre o futuro da inteligência artificial durante a recente conferência anual de IA. Ele falou sobre o potencial transformador da IA ​​para se tornar "imprevisível", destacando seus desafios e implicações.

Sutskever, falando na conferência NeurIPS na sexta-feira, explorou o conceito de "IA superinteligente", que ele deficomo sistemas que superam as capacidades humanas em uma ampla gama de tarefas. 

Ilya Sutskever, cofundador da OpenAI, acredita que a IA superinteligente será 'imprevisível' https://t.co/vLHmqwQOJQ

— TechCrunch (@TechCrunch) 14 de dezembro de 2024

Ele previu que tais sistemas seriam qualitativamente diferentes da IA ​​atual e, em alguns aspectos, irreconhecíveis. Segundo Sutskever, esses sistemas avançados possuirão autoconsciência, um nível de raciocínio e a capacidade de compreender cenários complexos a partir de dados limitados. 

“Os sistemas [superinteligentes] serão de fato agentes de uma forma real”, disse ele, contrastando-os com a IA atual, que ele descreveu como apenas “muito ligeiramente agente”.

Sutskever: Os modelos de IA atuais são limitados

Ao receber o prêmio "Test of Time" na conferência, Sutskever reconheceu as limitações de modelos pré-treinados como os usados ​​no ChatGPT da OpenAI. Embora os sistemas atuais demonstrem capacidades notáveis, ele alertou que a natureza finita dos dados da internet está se tornando um gargalo. 

completa com @ilyasut ! sobre o fim do pré-treinamento e muito mais pic.twitter.com/PigZVvcEGB

—Diego | AI 🚀 – e/acc (@diegocabezas01) 14 de dezembro de 2024

Sutskever propôs abordagens alternativas, incluindo sistemas de IA que geram seus próprios dados ou refinam suas respostas para aumentar a precisão. Essas inovações, sugeriu ele, poderiam ajudar a superar as limitações existentes.

O cofundador da OpenAI também abordou as implicações éticas da IA ​​superinteligente, incluindo o potencial de tais sistemas exigirem direitos. "Não é um resultado ruim se você tiver IAs que simplesmente queiram coexistir conosco e ter direitos", comentou. 

No entanto, ele enfatizou a imprevisibilidade inerente à IA ativa e autoconsciente, apresentando tanto oportunidades quanto desafios para desenvolvedores e reguladores.

O CEO da OpenAI, Altman, prevê disrupção e o advento da Inteligência Artificial Geral (AGI)

No início deste mês, o CEO da OpenAI, Sam Altman, compartilhou opiniões semelhantes às de Sutskever sobre o limite do desempenho da IA ​​superinteligente. Em um discurso no DealBook Summit do New York Times, na cidade de Nova York, Altman delineou sua visão para a inteligência artificial geral (AGI). Ele previu que sistemas de AGI — IA capazes de executar tarefas complexas com raciocínio semelhante ao humano — poderiam se tornar realidade já em 2025. 

“Acho que é possível… em 2025 teremos sistemas que, ao analisarmos, as pessoas dirão: 'Uau, isso muda o que eu esperava'”, disse Altman.

Altman comparou o impacto potencial da IA ​​à invenção do transistor, que revolucionou indústrias e economias em todo o mundo. Ele descreveu um futuro onde essa tecnologia será "incrivelmente capaz". 

“Os modelos de IA estão se tornando amplamente disponíveis e são usados ​​em diversos setores para várias aplicações. “A própria IA, o mecanismo de raciocínio, se tornará uma commodity”, opinou Altman, sugerindo que sua integração na vida cotidiana será tão transformadora quanto os avanços tecnológicos do passado.

Durante sua participação, Altman destacou a ampla adoção do ChatGPT, revelando que a ferramenta de IA agora conta com mais de 300 milhões de usuários semanais. Ele reconheceu os debates em curso sobre sua segurança, mas afirmou que a abordagem iterativa de desenvolvimento e implementação tem sido crucial. 

“há defipessoas que acham que o ChatGPT não é suficientemente seguro”, disse ele, mas observou que a OpenAI acredita que a adoção precoce, quando os riscos são menores, é vital para uma melhoria gradual.

A ênfase de Altman na segurança refletiu as preocupações da indústria sobre o desenvolvimento responsável de IA. Ele reconheceu que, embora o ChatGPT seja "geralmente considerado pela maior parte da sociedade como aceitavelmente seguro e robusto", o aprimoramento e a supervisão contínuos permanecem prioridades.

Reflexões sobre liderança e a evolução da OpenAI

A trajetória de liderança de Altman desempenhou um papel fundamental na definição do rumo da OpenAI. Ao cofundar a organização em 2015 como um laboratório de pesquisa sem fins lucrativos, ele buscou promover tecnologias de IA para o benefício da humanidade. Antes de ingressar na OpenAI em tempo integral em 2019, Altman atuou comodent da Y Combinator, uma das principais aceleradoras de startups, de 2014 a 2019.

A OpenAI passou de uma organização sem fins lucrativos para um modelo de lucro limitado, a fim de garantir o financiamento necessário para projetos de IA em larga escala. Sob a liderança de Altman, a empresa lançou o ChatGPT e o DALL-E, que remodelaram o cenário da IA. 

No entanto, a jornada não foi isenta de desafios. Em novembro de 2023, Altman foi brevemente afastado de seu cargo pelo conselho da OpenAI devido a preocupações relacionadas à sua comunicação com os membros do conselho. A disputa, que se tornou pública, terminou com a reintegração de Altman menos de uma semana depois, já que o conselho alegou estar agora em "bons termos" com o CEO.