Abrir o código de Modelos de Linguagem Grandes (LLMs) é uma boa maneira de fomentar a inovação?

Resumo TL;DR

• Geoffrey Hinton, o padrinho da IA, expressa preocupações sobre o código de modelos de IA de código aberto, alertando para riscos aumentados e uso indevido.
• Hinton sugere um desenvolvimento controlado liderado por grandes empresas para garantir o uso responsável da IA.
• Defensores dos LLMs de código aberto argumentam que as restrições limitam a criatividade e a inovação.

Geoffrey Hinton, uma figura renomada no campo da inteligência artificial (IA) e frequentemente referido como o “padrinho da IA”, expressou preocupações sobre os riscos potenciais associados à abertura do código por trás dos modelos de IA, particularmente os grandes modelos de linguagem (LLMs). Hinton, conhecido por suas contribuições inovadoras para redes neurais, acredita que tornar esse código disponível gratuitamente online pode ter efeitos prejudiciais e aumentar os perigos associados à IA.

A posição de Hinton deriva de sua crença de que a tecnologia por trás da IA, particularmente os LLMs, tem potencial para uso indevido e exploração se cair em mãos erradas. Grandes modelos de linguagem, como o GPT-3 da OpenAI, são projetados para gerar texto semelhante ao humano e possuem uma capacidade imensa de aprender a partir de vastas quantidades de dados. Eles demonstraram capacidades impressionantes em várias aplicações, incluindo tradução de idiomas, geração de conteúdo e até mesmo conclusão automática de código.

O lado sombrio dos LLMs

Geoffrey Hinton expressou recentemente suas preocupações sobre o movimento de código aberto em torno dos grandes modelos de linguagem (LLMs) e seus desafios potenciais. Tendo deixado recentemente seu cargo no Google para expressar livremente suas opiniões sobre o desenvolvimento de IA, Hinton acredita que confinar os LLMs aos laboratórios de empresas como a OpenAI pode ser benéfico. Ele sugere que uma abordagem de desenvolvimento controlada, com algumas grandes empresas de diferentes países assumindo a liderança, permitiria o desenvolvimento simultâneo da tecnologia e o estabelecimento de métodos para garantir seu uso responsável. 

Hinton enfatizou que a IA de código aberto aumenta o risco de permitir que indivíduos com intenções maliciosas utilizem a tecnologia de maneiras prejudiciais e imprevisíveis.

Hinton também acredita que o ponto em que a IA superinteligente supera a inteligência humana não está muito distante, mencionando que vê sinais de inteligência em modelos como o GPT-4. Ele revisou sua estimativa anterior de que isso levaria de 50 a 100 anos, considerando agora mais provável que aconteça nos próximos cinco a 20 anos.

Como os LLMs de código aberto alimentam o sucesso dos negócios

Os grandes modelos de linguagem (LLMs) de código aberto tornaram-se cada vez mais abundantes online, oferecendo acesso a poderosas capacidades de IA. Junto com essa tendência, os fornecedores de software estão capitalizando a crescente demanda das empresas por LLMs personalizáveis e instaláveis que podem ser treinados em dados proprietários. Um lançamento notável neste espaço foi o Dolly 2.0 da Databricks, aclamado como o primeiro LLM de código aberto, que segue instruções, projetado especificamente para uso comercial. Com funcionalidades semelhantes às do ChatGPT, o Dolly 2.0 permite que as organizações executem o modelo em sua própria infraestrutura, permitindo maior controle e flexibilidade.

Mitigando os perigos da IA: iniciativa de alerta precoce da DeepMind

A DeepMind, o laboratório de IA sob a antiga empregadora de Hinton, Google, anunciou o desenvolvimento de um sistema de alerta precoce projetado para identificar riscos potenciais associados à IA. Este sistema visa abordar as preocupações levantadas por Hinton e melhorar a capacidade de detectar e mitigar quaisquer perigos potenciais decorrentes das tecnologias de IA. A iniciativa demonstra esforços contínuos dentro da indústria para gerenciar proativamente os riscos e garantir o desenvolvimento e a implantação responsáveis da IA.

A posição dos defensores dos LLMs de código aberto

Os defensores dos LLMs de código aberto argumentam que eles têm o potencial de democratizar o acesso a sistemas de IA como o ChatGPT, fomentando a inovação ao reduzir as barreiras de entrada para experimentação. Eles acreditam que, tornando essas tecnologias amplamente disponíveis, uma comunidade mais ampla de indivíduos pode contribuir para os avanços no campo. Há um número significativo de indivíduos entusiastas ansiosos para explorar e inovar com a IA, e os defensores dos modelos de código aberto veem isso como crucial para capacitar esses indivíduos e aproveitar seu potencial coletivo.