El uso no declarado de ChatGPT genera preocupaciones en la publicación científica

En un desarrollo reciente que ha enviado ondas de choque a través de la comunidad científica, los investigadores han identificado casos de uso deshonesto de ChatGPT, un popular chatbot de IA, en artículos científicos. Estas revelaciones destacan una preocupación creciente sobre la transparencia y la integridad de las publicaciones de investigación.

El descubrimiento

El 9 de agosto, la revista *Physica Scripta* publicó un artículo que pretendía desentrañar complejas ecuaciones matemáticas. Sin embargo, el informático Guillaume Cabanac notó una frase extraña en la tercera página del manuscrito: «Regenerate response» (Regenerar respuesta). Esta frase resultó ser una etiqueta de ChatGPT, un chatbot de IA utilizado para generar texto en respuesta a las indicaciones del usuario. Cabanac compartió rápidamente sus hallazgos en PubPeer, una plataforma donde los científicos discuten la investigación publicada.

Las investigaciones posteriores revelaron que los autores del artículo habían empleado ChatGPT para ayudar a redactar su manuscrito. Notablemente, esta anomalía pasó desapercibida durante el proceso de revisión por pares de dos meses y la fase de maquetación. Como resultado, el editor, IOP Publishing, decidió retirar el artículo debido al fallo de los autores para declarar su uso de la herramienta durante la presentación.

El problema más amplio

Este caso no es un incidente aislado. Desde abril, Guillaume Cabanac ha identificado más de una docena de artículos de revistas que contienen las frases típicas de ChatGPT «Regenerate response» o «As an AI language model, I…», todos publicados en PubPeer. Muchos editores, incluido Elsevier y Springer Nature, permiten el uso de ChatGPT y modelos de lenguaje similares siempre que los autores lo declaren.

Sin embargo, estos casos de detección representan solo la punta del iceberg. Los investigadores sospechan que numerosos artículos revisados por pares no declarados han utilizado ChatGPT sin la debida declaración. Las frases mismas han evolucionado, con ChatGPT cambiando su botón «Regenerate response» a «Regenerate» en una actualización.

Uso no declarado en varias revistas

Guillaume Cabanac ha descubierto frases típicas de ChatGPT en artículos publicados en revistas de Elsevier. En un caso, un artículo publicado en *Resources Policy* el 3 de agosto exploró el impacto del comercio electrónico en la eficiencia de los combustibles fósiles en países en desarrollo. Cabanac notó inconsistencias en las ecuaciones, pero la clave fue una declaración sobre una tabla: «Please note that as an AI language model, I am unable to generate specific tables or conduct tests…» (Tenga en cuenta que como modelo de lenguaje de IA, no puedo generar tablas específicas ni realizar pruebas…)

Elsevier ha reconocido el problema y lo está investigando actualmente. Los autores del artículo, afiliados a la Universidad de Liaoning en Shenyang, China, y a la Academia China de Comercio Internacional y Cooperación Económica en Pekín, no han respondido a las solicitudes de comentario.

El desafío de detectar el engaño

Los artículos escritos parcial o totalmente por software informático sin divulgación no son nuevos, pero típicamente exhiben trazas distinguibles como patrones de lenguaje o frases mal traducidas. Eliminar las frases de plantilla de ChatGPT, sin embargo, hace que el texto generado por IA sea casi imposible de detectar. Esto crea un desafío continuo para la comunidad científica, a menudo descrito como una «carrera de armamentos» entre estafadores y aquellos que intentan mantener la integridad de la investigación.

Impacto en la revisión por pares

El uso no declarado de ChatGPT también ha aparecido en artículos de conferencias revisados por pares y preprints. Los autores, cuando se les confrontó en PubPeer, a veces admitieron haber utilizado ChatGPT sin declararlo. Esta revelación destaca un problema significativo: los revisores por pares, sobrecargados de trabajo, pueden no tener tiempo suficiente para examinar minuciosamente los manuscritos en busca de señales de alarma.

El auge de los manuscritos falsos

La proliferación de herramientas de IA generativa como ChatGPT plantea preocupaciones sobre el posible aumento de las fábricas de artículos, empresas que producen y venden manuscritos falsos a investigadores que buscan aumentar su producción editorial. Este fenómeno amenaza con exacerbar un problema ya de por sí desafiante en la publicación académica.

Detectar el engaño

Se sabe que modelos de lenguaje como ChatGPT generan referencias falsas, una posible señal para los revisores por pares que intentan detectar su uso en los manuscritos. En algunos casos se han identificado referencias ficticias, sirviendo como señales de alarma para alertar a los revisores. La vigilancia en la verificación de referencias se está volviendo cada vez más importante.

El descubrimiento del uso no declarado de ChatGPT en publicaciones científicas subraya la importancia de la transparencia y la integridad en la investigación. A medida que la comunidad científica lidia con los desafíos planteados por las herramientas de IA en evolución, es evidente que son esenciales directrices más estrictas y una mayor vigilancia en la revisión por pares para mantener la credibilidad de la publicación académica. Abordar estos problemas es primordial para garantizar que la búsqueda del conocimiento se mantenga fundamentada en principios éticos y prácticas de investigación rigurosas.