OpenAI adia lançamento de ferramenta de detecção de IA devido a preocupações

A OpenAI adiou o lançamento de sua tão esperada ferramenta projetada para detectar texto gerado por seu modelo ChatGPT. De acordo com os relatórios, o lançamento foi atrasado devido a possíveis problemas que podem afetar a experiência do usuário e o ecossistema.

O Wall Street Journal disse que a OpenAI tem se preparado para lançar a ferramenta no último ano, mas ainda não o fez, principalmente devido aos riscos e a vários problemas. A escolha de adiar o lançamento da ferramenta também parece estar relacionada à entrada do usuário. Em uma pesquisa realizada pela OpenAI, eles descobriram que quase um terço de seus usuários fiéis do ChatGPT podem ser desencorajados pela introdução de tecnologia anti-colação.

Como funciona a ferramenta anti-colação

De acordo com o Centro para Democracia e Tecnologia, 59% dos professores do ensino fundamental II e médio acreditam que os alunos usaram IA em suas tarefas, um aumento em relação ao ano anterior.

A ferramenta anti-colação funciona incorporando uma marca d'água no texto escrito por uma IA. Embora essa marca d'água seja invisível a olho nu, a tecnologia de detecção da OpenAI é capaz de identificá-la. A ferramenta fornece uma pontuação que representa a probabilidade de um determinado texto ter sido escrito pelo ChatGPT. Diz-se que essa técnica de marca d'água é quase perfeita, já que documentos internos revelam que ela tem uma eficácia de 99,9% quando o ChatGPT produz muito conteúdo.

No entanto, algumas questões foram levantadas em relação à ferramenta. Uma grande preocupação é que ela possa ser desvantajosa para aqueles que não são falantes nativos de inglês. Algumas pessoas estão preocupadas que a marca d'água possa não ser tão eficiente quanto deveria ou pode marcar outros trabalhos de autores com habilidades precárias em inglês como plagiados. Além disso, críticos expressaram preocupação de que a marca d'água possa ser apagada ou manipulada traduzindo-a ou inserindo e excluindo emojis.

Outra questão é quem deve ter permissão para usar a ferramenta de detecção. Limitar o acesso pode reduzir a aplicabilidade do método de marca d'água; no entanto, permitir acesso livre pode tornar o método ineficaz. 

Outros gigantes da tecnologia desenvolvem soluções semelhantes

Embora a OpenAI ainda não tenha implementado a ferramenta anti-colação para texto, a empresa já começou a aplicar marca d'água em saídas de áudio e vídeo. Esses formatos multimídia foram considerados pela empresa como prioridades, pois deepfakes gerados por IA representam riscos maiores do que o conteúdo baseado em texto. 

Outras empresas de tecnologia também estão desenvolvendo soluções semelhantes. Por exemplo, a Google também está desenvolvendo sua própria solução de marca d'água conhecida como SynthID, que ainda está na fase beta. No entanto, a OpenAI priorizou a marca d'água de áudio e visual sobre o texto, já que os impactos dos primeiros são mais graves e podem ocorrer em intervalos críticos, como anos eleitorais. 

Esta notícia surge enquanto Elon Musk retorna aos tribunais para processar a OpenAI, acusando a empresa e seus fundadores, Sam Altman e Greg Brockman, de se desviar do objetivo original de criar IA para a melhoria da humanidade.