Detectores de IA Param de Funcionar: Estudo de Caso da Constituição dos EUA
Detectores de IA Param de Funcionar: Estudo de Caso da Constituição dos EUA
- Detectores de Inteligência Artificial (IA) criam uma disparidade global sobre o que é real e o que não é.
- A disparidade e a precisão dos detectores de IA apontam para o inglês básico e sua região de uso, ou seja, inglês britânico e americano.
- A OpenAI admite que os detectores de IA não funcionam.
A Inteligência Artificial (IA) dominou a vida moderna, particularmente na geração de conteúdo escrito. Embora seja tudo divertido e jogos, a imprecisão na detecção de conteúdo de IA é alarmante. O que é pior é Detectores de IA marcando conteúdo escrito por humanos como gerado por GPT; Estudo de caso a Constituição dos Estados Unidos.
Leia também :Paul Graham do Y Combinator Criticado por Afirmar que Textos com “Delve” São Escritos por IA
A Constituição dos Estados Unidos foi escrita em 1787, ratificada em 1788 e está em operação desde 1789. É a carta de governo escrita de maior duração do mundo. A Constituição existia há um século antes do primeiro carro ser inventado. No entanto, um detector de IA a marcou como 97,97% gerada por IA.
Detectores de IA Marcam a Constituição dos EUA como Inumana
2023 viu um aumento no conteúdo escrito por inteligência artificial. Logo depois, os desenvolvedores do mercado aproveitaram a oportunidade para criar detectores que informam as porcentagens de conteúdo de IA. Isso deveria ter sido um bom avanço, mas não é o caso.
Um detector de IA marcou a Constituição dos Estados Unidos como conteúdo de IA. A porcentagem? Um fechamento de 97,97%. O termo “inteligência artificial” foi cunhado e se tornou popular no nascimento da IA entre 1950 e 1956. Então, como a IA poderia ter escrito um documento 163 anos mais antigo do que sua invenção?
Em 1950, Alan Turing publicou um artigo de periódico intitulado “Computer Machinery and Intelligence”, propondo um teste de inteligência de máquina chamado The Imitation Game. Este artigo marcou o início do mundo em que vivemos hoje.
Em 1952, um cientista da computação chamado Arthur Samuel desenvolveu um programa para jogar damas, o primeiro a aprender o jogo independentemente. Logo depois, em 1955, John McCarthy realizou um workshop no Dartmouth sobre “inteligência artificial”, que foi o primeiro uso da palavra.
Detectores de IA Têm Limitações
Detectores de IA têm limitações porque o texto gerado por IA imita a escrita humana. Esses detectores foram treinados pelos mesmos humanos que ensinaram as máquinas a escrever. Então, como funcionariam seus detectores de IA e quão precisos eles são? Outro detector de IA marcou 1% de conteúdo de IA na Constituição dos EUA. De onde veio o 1%?
Bem, aqui está a disparidade: Alguns detectores de IA procuram certas palavras como “delve, tapestry, utilize, numerous, etc.” que são geralmente usadas por IA, mas são incomuns para americanos.
No entanto, para algumas pessoas de países com história colonial britânica, essas palavras são comumente usadas tanto na linguagem falada quanto escrita.
No mês passado, o co-fundador do Y Combinator, Paul Graham, foi alvo de críticas após uma teoria de atribuição de texto do ChatGPT que ele fez no X (antigo Twitter). Graham postou uma proposta de e-mail frio que recebeu de alguém para um projeto que ele concluiu ser escrita de IA porque continha a palavra “delve.”
Um usuário do X disse, “As pessoas que aprenderam inglês em países que tiveram passado colonial britânico – é exatamente assim que aprendemos inglês […] ‘Delve’ é uma palavra normal que falamos.” Outro disse que é um problema americano.
Alguns países e pessoas ainda usam o que eu descreveria como “inglês literário”.
— Africa Research Desk (@MightiJamie) 10 de abril de 2024
O que é infeliz é que o vocabulário americano é primariamente baseado em coloquialismos (o que você chama de gíria) e idiomatismos contemporâneos americanos, na medida em que o uso sofisticado de…
Isso levanta a questão: os detectores de IA e geradores de conteúdo devem ser específicos para o inglês regional? Ou todas essas ferramentas de escrita e detectores devem ser abandonadas?
Detectores de IA São Imprecisos
Detectores de IA dependem de características linguísticas inconsistentes. A linguagem humana é inerentemente variável, com uma ampla gama de estilos, dialetos e idiomatismos. O texto gerado por IA pode cair dentro dessas variações, tornando difícil para os detectores serem precisos.
Cerca de 20% dos textos gerados por IA passam por esses sistemas de detecção sem serem detectados, minando a confiabilidade dos detectores de IA. Da mesma forma, cerca de 25% do texto escrito por humanos é falsamente sinalizado como IA.
Um usuário no Quora escreveu, “O detector de IA está detectando meu trabalho como 100% gerado por IA. Porque eu, ignorantemente, o usei como uma ferramenta de edição e gramática a pedido de um orientador acadêmico. As palavras, conceitos e experiências de vida na peça já publicada são minhas. O que eu faço?”
Muitos expressaram frustração com esse problema. Recentemente, em uma matéria de notícias publicada pela Cryptopolitan, um Gerador de IA sinalizou palavras faladas por Donald Trump. Ele disse: “Sou muito positivo e aberto a empresas de criptomoedas e tudo relacionado a esta nova e emergente indústria.” Como a IA é adicionada às palavras faladas? Está na mente de uma pessoa? Em pensamentos expressos?
Outro conteúdo era de David Bailey: “Mobilizaremos para nos defender. Não estamos votando no Trump per se, estamos votando contra Biden. A única pessoa a culpar por isso é Biden. “
Também leia: A Campanha Crypto de Trump – Tudo o Que Você Precisa Saber
Em 2023, a OpenAI publicou dicas para educadores em um post promocional no blog mostrando como alguns professores usam o ChatGPT como uma ferramenta educacional.
Em uma seção da FAQ intitulada “Os detectores de IA funcionam?”, a OpenAI escreveu, “Em resumo, não. Embora alguns (incluindo a OpenAI) tenham lançado ferramentas que pretendem detectar conteúdo gerado por IA, nenhuma delas provou distinguir de forma confiável entre conteúdo gerado por IA e conteúdo gerado por humanos.” O problema de distinguir conteúdo humano de conteúdo de IA permanece. A questão é: O que deve ser feito a seguir?
Reportagem da Cryptopolitan por Florence Muchai
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Florence Muchai
Florence cobre notícias sobre criptoativos, jogos, tecnologia e IA há 6 anos. Sua graduação em Estudos de Computação na Meru University of Science and Technology e em Gestão de Desastres e Diplomacia Internacional no MMUST equipam-na plenamente com habilidades linguísticas, de observação e técnicas. Florence trabalhou no VAP Group e como editora em várias casas de mídia de criptoativos.
