Desde o lançamento de ferramentas de IA como o ChatGPT, o termo "IA" tornou-se uma palavra da moda em diversos setores, da educação à criação de conteúdo. Escritores edentagora enfrentam um novo desafio: defender seus trabalhos, sejam eles de autoria de IA ou de humanos.
Segundo estatísticas da Statista do ano passado, o termo “IA” foi pesquisado mais de 30,4 milhões de vezes em julho de 2023, o triplo do número registrado no mês anterior. Com a crescente prevalência da IA, professores e editores precisaram encontrar uma maneira alternativa de determinar se o texto apresentado era de origem IA ou não. Isso levou ao surgimento dos detectores de IA.
No entanto, muitos escritores e educadores questionam a autenticidade da IA. Um deles é Christopher Pen, cofundador da TrustInsights.ai, que afirmou em uma publicação que os “ detectores de IA” são uma piada. Pen não é o único que acredita que os detectores de IA não são confiáveis. Dianna Mason, especialista em conteúdo SEO, declarou em uma publicação: “Detectores de conteúdo de IA não funcionam”.
De acordo com outra publicação no Reddit, um usuário afirmou: “ Sim, detectores de IA são uma farsa. Nunca houve um artigo acadêmico que comprovasse que um detector de IA possa funcionar de forma confiável. Também não existe uma estrutura teórica promissora de como um detector de IA confiável funcionaria.”
Diversos exemplos amplamente divulgados demonstram a ineficiência dos detectores de IA. Por exemplo, um detector identificoudent97,75% da Declaração de Independência dos EUA como sendo de autoria de IA.
Em outro caso, textos da Bíblia foram identificados como escritos por IA. O Bhagavad Gita, uma escritura hindu, também foidenterroneamente pela IA. Taisdentlevantam questões muito sérias sobre a credibilidade dos detectores de IA.
Para investigar mais a fundo a eficácia dos detectores de IA, testamos um trecho da Bíblia com quatro detectores diferentes. Os resultados foram bastante distintos
- Quilbott - De acordo com este site, o trecho utilizado provavelmente não foi gerado por IA, mas sim por 0% de autenticidade.
- Grammaly - O Grammaly tambémdento texto como 100% escrito por humanos.
- Gpt Zero - Este site atribuiu ao texto uma probabilidade de 96% de ter sido escrito por humanos.
- Zero Gpt - Este foi o último site que testei e os resultados foram impressionantes. Segundo o site, 96% do texto foi escrito por IA.
Como funcionam os detectores de IA
Detectores de IA, ou detectores GPT, são sistemas projetados paradentconteúdo gerado por IA. Esses detectores comparam o texto em termos de padrões e arranjo de palavras, assim como os Modelos de Aprendizado de Linguagem (LLMs) fazem com o texto. Os LLMs trabalham com probabilidades inferidas a partir de dados e baseiam suas previsões puramente na detecção de sequências de palavras. Os detectores de IA operam com base nessas probabilidades para detectar conteúdo gerado por IA.
Os detectores de IA utilizam principalmente duas métricas: perplexidade e variabilidade. A perplexidade mede a probabilidade de a próxima palavra estar correta, enquanto a variabilidade mede a quantidade de palavras e frases. Embora a escrita humana tenda a apresentar maior variedade, o texto gerado por IA costuma ser mais uniforme. Apesar disso, com o avanço de modelos de IA como o GPT-4, eles conseguem replicar a escrita humana com maior precisão, tornando a detecção ainda mais difícil.
Segundo Jodie Cook , fundadora da Coachvox, “ Atualmente, rimos dos comentários gerados por IA no LinkedIn… Mas, à medida que a tecnologia melhora, não teremos a mínima ideia do que é real e do que não é. Ninguém terá.”
Para escritores,dente empresas, os riscos são altos. Isso levanta a questão: podemos confiar nos detectores de IA?
