Estudo de Stanford Relata 97% de Erros em Detectores de GPT de Texto Gerado por IA

Pesquisadores da Universidade de Stanford conduziram um estudo que lança luz sobre a confiabilidade e as limitações dos detectores de GPT, as ferramentas projetadas para diferenciar entre texto escrito por humanos e gerado por IA. Um detector em particular sinalizou esmagadoramente 97,8% das redações do TOEFL como geradas por IA, atribuindo a má classificação a uma menor “perplexidade do texto” na escrita em inglês não nativo.

Os detectores tendiam a perceber menos variabilidade e riqueza em vocabulário e gramática, levando à suposição errônea de que o texto foi gerado por IA. Esse viés contra falantes não nativos de inglês pode afetar adversamente vários domínios, incluindo processos de seleção de emprego e exames acadêmicos.

As implicações desses vieses e vulnerabilidades levantam preocupações sobre possíveis impactos negativos em falantes não nativos de inglês em vários contextos, como contratação de emprego e exames escolares. As descobertas indicam que esses detectores frequentemente classificam erroneamente a escrita de falantes não nativos de inglês e podem ser facilmente enganados pela linguagem literária.

O experimento de má classificação do estudo

Em sua investigação, os pesquisadores de Stanford avaliaram o desempenho de sete detectores de GPT prontos para uso, incluindo o detector da OpenAI e o GPTZero. Eles analisaram 91 redações escritas por indivíduos chineses que fizeram o exame TOEFL (Teste de Inglês como Língua Estrangeira) e 88 redações escritas por alunos do oitavo ano dos EUA. Os detectores exibiram uma discrepância significativa na precisão, classificando erroneamente as redações do TOEFL escritas por humanos como geradas por IA 61% das vezes. Em comparação, apenas 5,1% das redações dos alunos dos EUA foram classificadas erroneamente como geradas por IA.

Vieses contra falantes não nativos de inglês

Um detector em particular sinalizou esmagadoramente 97,8% das redações do TOEFL como geradas por IA, atribuindo a má classificação a uma menor “perplexidade do texto” na escrita em inglês não nativo. Os detectores tendiam a perceber menos variabilidade e riqueza em vocabulário e gramática, levando à suposição errônea de que o texto foi gerado por IA. Esse viés contra falantes não nativos de inglês pode afetar adversamente vários domínios, incluindo processos de seleção de emprego e exames acadêmicos.

Enganando detectores de GPT com linguagem literária

Os pesquisadores também examinaram a capacidade dos detectores de GPT de identificar texto gerado por IA. Eles usaram o ChatGPT para gerar respostas a prompts de redações de admissão em faculdades dos EUA e descobriram que, em média, os detectores detectaram com sucesso as redações geradas por IA 70% das vezes. No entanto, quando o ChatGPT foi solicitado a aprimorar as redações usando linguagem literária, os detectores foram enganados e só conseguiram identificar corretamente o texto gerado por IA 3,3% das vezes. Resultados semelhantes foram observados quando o ChatGPT produziu resumos científicos.

Implicações e perguntas levantadas

O estudo de Stanford levanta preocupações sobre a eficácia dos detectores de GPT, dada sua suscetibilidade a serem enganados e sua tendência de classificar erroneamente o texto escrito por humanos. Isso coloca em questão a confiabilidade e a utilidade desses detectores. Os pesquisadores enfatizam a necessidade de mais pesquisas e defendem o envolvimento de todas as partes interessadas afetadas pelos modelos de IA generativa, como o ChatGPT, em discussões sobre seu uso adequado.

Para fortalecer os detectores, os pesquisadores propõem comparar múltiplas peças de escrita sobre o mesmo tópico, abrangendo respostas humanas e de IA, e agrupá-las para análise. Essa abordagem pode potencialmente levar a um mecanismo de detecção mais robusto e equitativo. Detectores projetados para identificar frases e estruturas muito usadas podem promover a criatividade e a originalidade na escrita.

À medida que o desenvolvimento de modelos de IA generativa e software de detecção continua, o estudo de Stanford destaca os vieses e vulnerabilidades presentes nos detectores de GPT. Sua propensão a classificar erroneamente a escrita em inglês não nativo e ser enganada pela linguagem literária exige cautela em seu uso, especialmente em ambientes avaliativos ou educacionais. Os pesquisadores ressaltam a importância de pesquisas contínuas e discussões inclusivas envolvendo todas as partes interessadas para garantir a aplicação responsável e justa dos modelos de IA generativa.