Co-fundador da OpenAI alerta que IA superinteligente será ‘imprevisível’

O co-fundador da OpenAI, Ilya Sutskever, ofereceu insights sobre o futuro da inteligência artificial durante a recente conferência anual de IA. Ele falou sobre o potencial transformador da IA para se tornar “imprevisível”, destacando seus desafios e implicações.

Sutskever, falando na conferência NeurIPS na sexta-feira, explorou o conceito de “IA superinteligente”, que ele definiu como sistemas que superam as capacidades humanas em uma ampla variedade de tarefas. 

O co-fundador da OpenAI, Ilya Sutskever, acredita que a IA superinteligente será ‘imprevisível’ https://t.co/vLHmqwQOJQ

— TechCrunch (@TechCrunch) Dezembro 14, 2024

Ele previu que tais sistemas seriam qualitativamente diferentes das IAs atuais e, em alguns aspectos, irreconhecíveis. De acordo com Sutskever, esses sistemas avançados possuiriam autoconsciência, um nível de raciocínio e a capacidade de entender cenários complexos a partir de dados limitados. 

“[Sistemas superinteligentes] realmente serão agentes de forma genuína,” ele disse, contrastando-os com a IA atual, que ele descreveu como apenas “muito ligeiramente agente”.

Sutskever: Modelos de IA atuais são limitados

Recebendo um prêmio “Teste de Tempo” na conferência, Sutskever reconheceu as limitações dos modelos de pré-treinamento, como os usados no ChatGPT da OpenAI. Embora os sistemas atuais demonstrem capacidades notáveis, ele alertou que a natureza finita dos dados da internet está se tornando um gargalo. 

Completo @ilyasut CONVERSA! sobre o fim do pré-treinamento e mais pic.twitter.com/PigZVvcEGB

— Diego | IA 🚀 – e/acc (@diegocabezas01) 14 de dezembro de 2024

Sutskever propôs abordagens alternativas, incluindo sistemas de IA gerando seus próprios dados ou refinando suas respostas para melhorar a precisão. Essas inovações, sugeriu ele, poderiam ajudar a superar as limitações existentes.

O co-fundador da OpenAI também abordou as implicações éticas da IA superinteligente, incluindo o potencial de tais sistemas exigirem direitos. “Não é um mau resultado final se você tiver IAs, e tudo o que elas querem é coexistir conosco e apenas ter direitos,", ele observou. 

No entanto, ele enfatizou a imprevisibilidade inerente da IA agente e autoconsciente, apresentando tanto oportunidades quanto desafios para desenvolvedores e reguladores.

CEO da OpenAI, Altman, prevê disrupção e a chegada da AGI

No início deste mês, o CEO da OpenAI, Sam Altman, compartilhou visões semelhantes às de Sutskever sobre o teto do desempenho da IA superinteligente. Falando na Cúpula DealBook do New York City, em Nova York, Altman delineou sua visão para a inteligência artificial geral (AGI). Ele previu que a AGI — sistemas de IA capazes de realizar tarefas complexas com raciocínio semelhante ao humano — poderia se tornar uma realidade já em 2025. 

“Acho que é possível … em 2025 teremos sistemas que olhamos … e as pessoas dirão: ‘Uau, isso muda o que eu esperava,’” disse Altman.

Altman comparado o impacto potencial da IA na invenção do transistor, que revolucionou indústrias e economias em todo o mundo. Ele descreveu um futuro onde isso será “chocantemente capaz”. 

“Os modelos de IA se tornam amplamente disponíveis e são usados em várias indústrias para diferentes aplicações. “A própria IA, o motor de raciocínio, se tornará uma commodity,” opinou Altman, sugerindo que sua integração na vida cotidiana será tão transformadora quanto os avanços tecnológicos do passado.

Durante sua aparição, Altman destacou a ampla adoção do ChatGPT, revelando que a ferramenta de IA agora tem mais de 300 milhões de usuários semanais. Ele reconheceu os debates contínuos sobre sua segurança, mas manteve que a abordagem de desenvolvimento e implantação iterativa foi crucial. 

“Definitivamente há pessoas que acham que o ChatGPT não é suficientemente seguro,” ele disse, mas observou que a OpenAI acredita que a adoção precoce, quando as apostas são menores, é vital para a melhoria gradual.

A ênfase de Altman na segurança ecoou as preocupações da indústria sobre o desenvolvimento responsável de IA. Ele reconheceu que, embora o ChatGPT seja “agora geralmente considerado pela maioria da sociedade como aceitavelmente seguro e robusto”, o refinamento contínuo e a supervisão continuam sendo prioridades.

Reflexões sobre liderança e a evolução da OpenAI

A jornada de liderança de Altman desempenhou um papel fundamental na trajetória da OpenAI. Co-fundando a organização em 2015 como um laboratório de pesquisa sem fins lucrativos, ele visava avançar as tecnologias de IA para o benefício da humanidade. Antes de se juntar à OpenAI em tempo integral em 2019, Altman serviu como presidente da Y Combinator, um acelerador de startups líder, de 2014 a 2019.

A OpenAI transitou de suas origens sem fins lucrativos para um modelo de lucro limitado para garantir o financiamento necessário para projetos de IA em grande escala. Sob a liderança de Altman, a empresa lançou o ChatGPT e o DALL-E, que remodelaram o cenário da IA. 

No entanto, a jornada não esteve isenta de desafios. Em novembro de 2023, Altman foi brevemente expulso removido de seu cargo pelo conselho da OpenAI devido a preocupações relacionadas à sua comunicação com os membros do conselho. A disputa, que se desenrolou publicamente, foi concluída com a reintegração de Altman menos de uma semana depois, já que o conselho afirmou estar agora em “bons termos” com o CEO.