Uso Não Declarado do ChatGPT Levanta Preocupações na Publicação Científica
- O uso não declarado do ChatGPT em artigos científicos levanta preocupações sobre transparência e integridade da pesquisa.
- A detecção de desinformação gerada pelo ChatGPT em periódicos revisados por pares é apenas a ponta do iceberg.
- A proliferação de ferramentas de IA generativa, como o ChatGPT, pode levar ao surgimento de manuscritos falsos e a desafios no processo de revisão por pares.
Em um desenvolvimento recente que enviou ondas de choque pela comunidade científica, pesquisadores identificaram instâncias de uso desonesto do ChatGPT, um popular chatbot de IA, em artigos científicos. Essas revelações destacam uma preocupação crescente sobre a transparência e a integridade das publicações de pesquisa.
A descoberta
Em 9 de agosto, a revista *Physica Scripta* publicou um artigo que visava desvendar equações matemáticas complexas. No entanto, o cientista da computação Guillaume Cabanac notou uma frase estranha na terceira página do manuscrito: 'Regenerate response' (Regenerar resposta). Esta frase acabou sendo um rótulo do ChatGPT, um chatbot de IA usado para gerar texto em resposta a prompts do usuário. Cabanac compartilhou prontamente suas descobertas no PubPeer, uma plataforma onde os cientistas discutem pesquisas publicadas.
Investigações subsequentes revelaram que os autores do artigo de fato empregaram o ChatGPT para ajudar na redação de seu manuscrito. Notavelmente, essa anomalia passou despercebida durante o processo de revisão por pares de dois meses e a fase de diagramação. Como resultado, a editora, IOP Publishing, decidiu retirar o artigo devido à falha dos autores em declarar o uso da ferramenta durante a submissão.
A questão mais ampla
Este caso não é um incidente isolado. Desde abril, Guillaume Cabanac identificou mais de uma dúzia de artigos de periódicos contendo as frases típicas do ChatGPT 'Regenerate response' ou 'As an AI language model, I…' (Como um modelo de linguagem de IA, eu…), todos postados no PubPeer. Muitas editoras, incluindo Elsevier e Springer Nature, permitem o uso do ChatGPT e modelos de linguagem semelhantes, desde que os autores o declarem.
No entanto, esses casos de detecção representam apenas a ponta do iceberg. Os pesquisadores suspeitam que numerosos artigos revisados por pares não declarados utilizaram o ChatGPT sem a devida declaração. As próprias frases evoluíram, com o ChatGPT alterando seu botão 'Regenerate response' para 'Regenerate' em uma atualização.
Uso não divulgado em periódicos
Guillaume Cabanac descobriu frases típicas do ChatGPT em artigos publicados em periódicos da Elsevier. Em um caso, um artigo publicado em *Resources Policy* em 3 de agosto explorou o impacto do comércio eletrônico na eficiência de combustíveis fósseis em países em desenvolvimento. Cabanac notou inconsistências nas equações, mas a pista foi uma declaração acima de uma tabela: 'Please note that as an AI language model, I am unable to generate specific tables or conduct tests…' (Por favor, note que como um modelo de linguagem de IA, sou incapaz de gerar tabelas específicas ou realizar testes…)
A Elsevier reconheceu o problema e está investigando-o atualmente. Os autores do artigo, afiliados à Universidade de Liaoning em Shenyang, China, e à Academia Chinesa de Comércio Internacional e Cooperação Econômica em Pequim, não responderam aos pedidos de comentário.
O desafio de detectar a decepção
Artigos escritos parcial ou totalmente por software de computador sem divulgação não são novos, mas normalmente exibem traços distinguíveis, como padrões de linguagem ou frases mal traduzidas. Excluir as frases padrão do ChatGPT, no entanto, torna o texto gerado por IA quase impossível de detectar. Isso cria um desafio contínuo para a comunidade científica, muitas vezes descrito como uma 'corrida armamentista' entre golpistas e aqueles que tentam manter a integridade da pesquisa.
Impacto na revisão por pares
O uso não declarado do ChatGPT também surgiu em artigos de conferência revisados por pares e preprints. Os autores, quando confrontados no PubPeer, às vezes admitiram usar o ChatGPT sem declaração. Essa revelação destaca um problema significativo – os revisores por pares sobrecarregados podem não ter tempo suficiente para examinar minuciosamente os manuscritos em busca de sinais de alerta.
A ascensão de manuscritos falsos
A proliferação de ferramentas de IA generativa como o ChatGPT levanta preocupações sobre o possível aumento de fábricas de papel, empresas que produzem e vendem manuscritos falsos para pesquisadores que buscam aumentar sua produção de publicações. Este fenômeno ameaça exacerbar um problema já desafiador na publicação acadêmica.
Detectando a decepção
Modelos de linguagem como o ChatGPT são conhecidos por gerar referências falsas, um sinal potencial para revisores por pares que tentam detectar seu uso em manuscritos. Referências fictícias foram identificadas em alguns casos, servindo como sinais de alerta para alertar os revisores. A vigilância na verificação de referências está se tornando cada vez mais importante.
A descoberta do uso não declarado do ChatGPT em publicações científicas sublinha a importância da transparência e da integridade na pesquisa. À medida que a comunidade científica lida com os desafios impostos pelas ferramentas de IA em evolução, é evidente que diretrizes mais rigorosas e uma vigilância aumentada na revisão por pares são essenciais para manter a credibilidade da publicação acadêmica. Abordar essas questões é primordial para garantir que a busca pelo conhecimento permaneça fundamentada em princípios éticos e práticas de pesquisa rigorosas.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Editah Patrick
Editah é uma analista de fintech versátil com profundo conhecimento em domínios de blockchain. Assim como a tecnologia a fascina, ela considera o cruzamento entre tecnologia e finanças algo deslumbrante. Seu interesse particular em carteiras digitais e blockchain auxilia seu público.
