Ilustrações geradas por IA geram controvérsia em publicações científicas

Um artigo que apresentava uma ilustração bizarra de um rato com genitália exagerada foitracda revista Frontiers in Cell and Developmental Biology

A ilustração vem da secção transversal dos genitais de um rato, mas relaciona-se de forma ridícula com a inteligência artificial (IA). Foi um erro fundamental cometido pelo processo de revisão por pares.

Ilustrações geradas por IA na literatura científica

Um dostrac. artigos, que tratava das células-tronco encontradas nos órgãos genitais de ratos, foi submetido a uma revisão completa por pares por outros especialistas e a uma revisão editorial antes de sua publicação em fevereiro 

Uma imagem de um rato macho enorme com uma etiqueta obscena em volta dos genitais, que desinforma os leitores, ilustra uma falha na abordagem bibliométrica e as dificuldades na detecção de informações fabricadas. 

Diversas críticas online aumentaram imensamente, com algumas organizações influentes, como o pesquisador de inteligência artificial Gary Marcus, expressando seu desconforto com o conteúdo gerado por IA que está inchando a literatura científica.

A questão reacendeu controvérsias sobre a potencial aplicação de ferramentas de IA generativa na ciência e em artigos acadêmicos. Os defensores dessas ferramentas alegam, entre outras coisas, que elas auxiliam no processamento e nos cálculos rápidos de dados. 

Por outro lado, há quem veja perigos nas ferramentas de inteligência artificial, como a criação de dados imprecisos ou informações enganosas. Uma pesquisa realizada pela Nature em 2023 mostrou que cerca de 30% dos cientistas haviam utilizado essas ferramentas generativas de IA para escrever seus manuscritos. Assim, ficoudent que a comunidade científica, de fato, aceitou amplamente essas tecnologias.

Gerenciando a integração da IA ​​na publicação científica

Em resposta a essas preocupações, importantes revistas científicas publicaram um código de ética que define o uso de IA generativa em pesquisa e publicação. Textos gerados por IA agora são considerados como tendo o aspecto biográfico sugerido; eles precisam ser explicitamente referenciados e explicados em artigos publicados por revistas como Nature e Science. Revisores institucionais estão proibidos de usar IA para avaliação de artigos. Além disso, a criação de imagens por IA é fortemente desencorajada, pois as revistas podem desconsiderar ilustrações fornecidas.

Atracde um artigo que descrevia um caso envolvendo uma ilustração gerada por IA demonstra que manter a integridade jornalística e científica na publicação científica é fundamental. Embora esse processo de integração não vá parar, mais pesquisadores e editores precisarão permanecer atentos à proteção da autenticidade e da precisão da literatura científica.