OpenAI adia lançamento de ferramenta de detecção por IA em meio a preocupações

A OpenAI adiou o lançamento de sua tão aguardada ferramenta projetada para detectar textos gerados pelo modelo ChatGPT. Segundo relatos, o lançamento foi adiado devido a possíveis problemas que podem afetar a experiência do usuário e o ecossistema.

O Wall Street Journal afirmou que a OpenAI vem se preparando para lançar a ferramenta há um ano, mas não o fez, principalmente devido a riscos e diversos problemas. A decisão de adiar o lançamento da ferramenta também parece estar relacionada à opinião dos usuários. Em uma pesquisa realizada pela OpenAI, constatou-se que quase um terço dos usuários fiéis do ChatGPT poderiam se sentir desencorajados pela introdução da tecnologia anti-trapaça. 

Como funciona a ferramenta anti-trapaça

Segundo o Centro para a Democracia e a Tecnologia, 59% dos professores do ensino fundamental e médio acreditam que osdentusaram IA em seus trabalhos, um aumento em relação ao ano anterior.

A ferramenta anti-fraude funciona incorporando uma marca d'água no texto escrito por uma IA. Embora essa marca d'água seja invisível a olho nu, a tecnologia de detecção da OpenAI consegue identificá-la. A ferramenta fornece uma pontuação que representa a probabilidade de um determinado texto ter sido escrito pelo ChatGPT. Essa técnica de marca d'água é considerada quase perfeita, já que documentos internos revelam uma eficácia de 99,9% quando o ChatGPT gera um grande volume de conteúdo.

No entanto, algumas questões foram levantadas em relação à ferramenta. Uma das principais preocupações é que ela pode ser desvantajosa para quem não é falante nativo de inglês. Algumas pessoas temem que a marca d'água não seja tão eficiente quanto deveria ou que possa sinalizar como plágio outros trabalhos de autores com pouco domínio do inglês. Além disso, críticos expressaram preocupação com a possibilidade de a marca d'água ser apagada ou manipulada por meio de tradução ou inserção e remoção de emojis.

Outra questão é quem deve ter permissão para usar a ferramenta de detecção. Limitar o acesso pode reduzir a aplicabilidade do método de marca d'água; no entanto, permitir acesso irrestrito pode tornar o método ineficaz. 

Outras gigantes da tecnologia desenvolvem soluções semelhantes

Embora a OpenAI ainda não tenha implementado a ferramenta antifraude para texto, a empresa já começou a aplicar marcas d'água em saídas de áudio e vídeo. Esses formatos multimídia foram considerados prioritários pela empresa, pois os deepfakes gerados por IA representam riscos maiores do que o conteúdo baseado em texto. 

Outras empresas de tecnologia também estão desenvolvendo soluções semelhantes. Por exemplo, o Google está lançando sua própria solução de marca d'água, conhecida como SynthID, que ainda está em fase beta. No entanto, a OpenAI priorizou a marca d'água de áudio e visual em detrimento da de texto, visto que os impactos da primeira são mais severos e podem ocorrer em períodos críticos, como anos eleitorais. 

Essa notícia surge no momento em que Elon Musk volta aos tribunais para processar a OpenAI, acusando a empresa e seus fundadores, Sam Altman e Greg Brockman, de se desviarem do objetivo original de criar IA para o aprimoramento da humanidade.