- A ascensão da IA apresenta um novo desafio na identificação da diferença entre conteúdo humano e de IA.
- Vários exemplos amplamente divulgados mostram a ineficácia dos detectores de IA.
- O termo “IA” foi pesquisado mais de 30.4 milhões de vezes.
Desde o lançamento de ferramentas de IA como o ChatGPT, o termo “IA” tornou-se uma palavra da moda em setores que vão da educação à criação de conteúdo. Escritores e estudantes agora enfrentam um novo desafio ao defender seu trabalho, seja ele gerado por IA ou por humanos.
De acordo com estatísticas de Stastia no ano passado, o termo “IA” foi pesquisado mais de 30,4 milhões de vezes em julho de 2023, o que é o triplo do número do mês anterior. À medida que a IA se tornou mais prevalente, professores e editores tiveram que encontrar uma maneira alternativa de determinar se o texto apresentado a eles era de IA ou não. Isso levou ao surgimento de detectores de IA.
No entanto, muitos escritores e educadores questionaram a autenticidade da IA. Um deles é Christoper Pen, co-fundador da TrustInsights.ai, que afirmou em um LinkedIn que os post que “narrativas de IA detectores” são uma piada. Pen não é o único que acha que os detectores de IA não são confiáveis. Dianna Mason, especialista em conteúdo SEO, declarou em um post, “detectores de conteúdo de IA não funcionam.”
De acordo com outro post no Reddit, um usuário afirmou, “Sim, os detectores de IA são uma fraude. Nunca houve um artigo acadêmico provando que um detector de IA pode funcionar de forma confiável. Também não há um quadro teórico promissor para como um detector de IA confiável funcionaria. “
Vários exemplos amplamente divulgados mostram a ineficiência dos detectores de IA. Por exemplo, um detector identificou erroneamente 97,75% da Declaração de Independência dos EUA como composta por IA.
Em outro caso, textos da Bíblia foram considerados escritos por IA. O Bhagavad Gita, uma escritura hindu, também foi erroneamente identificado pela IA. Tais incidentes levantam questões muito sérias sobre a credibilidade dos detectores de IA.
Para investigar ainda mais a eficácia dos detectores de IA, testamos um trecho da Bíblia com quatro detectores diferentes. Os resultados foram bastante diferentes
- Quilbott - De acordo com este site, o trecho usado provavelmente era 0%, não gerado por IA.
- Grammaly - O Grammaly também identificou o texto como 100% escrito por humanos.
- Gpt Zero - Este site deu ao texto uma probabilidade de 96% de ter sido escrito por humanos.
- Zero Gpt - Este foi o último site que testei e os resultados foram bastante surpreendentes; de acordo com o site, o texto era 96% escrito por IA.
Como os detectores de IA funcionam
Os detectores de IA, ou detectores de GPT, são sistemas projetados para identificar conteúdo gerado por IA. Esses detectores comparam o texto em termos de padrões e disposição de palavras, assim como os LLMs fazem com o texto. Os LLMs trabalham com probabilidades inferidas a partir de dados e baseiam suas previsões puramente na detecção de sequência de palavras. Os detectores de IA operam com base nessas probabilidades para detectar conteúdo de IA.
Os detectores de IA usam principalmente duas medidas, a saber, perplexidade e burstiness (variação). A perplexidade mede a probabilidade de a próxima palavra estar correta, e a burstiness é a variabilidade do número de palavras e frases. Enquanto a escrita humana tende a exibir mais variedade, o texto gerado por IA é frequentemente mais uniforme. Apesar disso, à medida que modelos de IA como o GPT-4 avançam, eles podem replicar a escrita humana com maior proficiência, tornando a detecção ainda mais difícil.
De acordo com Jodie Cook, fundadora da Coachvox, “No momento, rimos dos comentários gerados por IA no LinkedIn…. Mas à medida que a tecnologia melhora, não teremos ideia do que é real e o que não é. Ninguém terá. “
Para escritores, estudantes e empresas, as apostas são altas. Isso levanta a questão: os detectores de IA podem ser confiáveis?
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Brenda Kanana
Brenda tem mais de 4 anos de experiência especializada em criptomoedas, inteligência artificial e tecnologias emergentes. Ela trabalhou na Zycrypto, Blockchain Reporter, The Coin Republic e agora faz do Cryptopolitan seu lar. Sua graduação em Sociologia pela Mombasa Technical University mantém-a alinhada com o pulso de seus leitores.
