La asistencia de IA en la investigación científica genera preocupaciones 

Investigación indica que la IA generativa se está utilizando en la escritura científica a un ritmo significativo; algunos investigadores la están tratando como un enfoque válido que puede representar una amenaza para la investigación real y la verdadera naturaleza del trabajo académico.

La creciente influencia de la IA en la escritura científica

Los académicos han descubierto que el volumen de escritura producida por IA es bastante sustancial en comparación con otros tipos de escritura, como revistas y libros. Este análisis basado en la lingüística sugiere que el uso de palabras típicamente asociadas con modelos de lenguaje grandes (LLM) como «intrincado», «pivotal» y «meticulosamente» ha aumentado sustancialmente en el texto.

Los datos recogidos por Andrew Gray del University College London revelan que después de 2023, solo el 1% de los artículos en ciertos campos son asistidos por IA. Posteriormente, en abril, otro estudio de la Universidad de Stanford encontró que el número de revisiones sesgadas oscila entre el 6.3 y el 17.5 por ciento según el tema de la investigación.

Detección de la influencia de la IA

Las pruebas de lenguaje y el análisis estadístico fueron entre las herramientas utilizadas para vincular palabras o frases con la asistencia de IA. A pesar de que la modificación de palabras, como 'rojo', 'resultado' y 'después', observó menos variación hasta 2023, luego comenzaron a producirse picos en el uso de algunos adjetivos y adverbios asociados con el contenido generado por LLM.

Concretamente, las palabras «meticuloso», «digno de elogio» e «intrincado» aumentaron en un 117%, alcanzando la tasa más alta posterior a 2022. El estudio de Stanford observó un cambio en el uso del lenguaje en la Inteligencia Artificial, lo que indicó que el lenguaje de la IA continúa mejorando en su uso en todas las disciplinas científicas.

La investigación también reveló que la discriminación lingüística de la IA es consistente con las disparidades disciplinarias en la adopción de la IA. Campos como la informática y la ingeniería eléctrica están a la vanguardia de la adopción de lenguaje de la IA. Sin embargo, campos como las matemáticas, la física o Nature no presentaron cambios más dramáticos, sino aumentos más conservadores.

Desafíos éticos en la escritura académica asistida por IA

Los autores, siendo más prolíficos en preprints, trabajando en áreas de investigación donde la competencia es alta, y alimentando el apetito por artículos cortos, mostraron ser más propensos a la escritura asistida por IA. Es evidente que este patrón arroja luz sobre la relación presumida entre la limitación de tiempo y el aumento de la cantidad de contenido publicado como resultado del contenido generado por IA.

La IA ha sido un facilitador clave para acelerar los procesos de investigación. Sin embargo, aún plantea cuestiones éticas cuando la tecnología se utiliza en diversas tareas como resúmenes y otras secciones de artículos científicos. Ciertas editoriales lo consideran plagio y, en cierta medida, poco ético, si los agentes de LLM discuten un artículo científico en el que no son los únicos autores humanos.

La naturaleza necesaria de evitar inexactitudes en el texto generado por IA, como citas e ejemplos imaginados, es aún una característica clave de la comunicación de los académicos; uno no debe dejar de ser transparente y honesto. Se requiere que los autores que emplean material impulsado por LLM informen a los lectores sobre el método de investigación que utilizaron para mantener la integridad de la investigación y los actos estándar.

Con la creciente influencia de la IA en la escritura académica, los arquitectos de la comunidad académica se enfrentan al serio desafío de resolver las implicaciones éticas y garantizar la fiabilidad de los artículos de investigación. La IA es una gran tecnología que facilita significativamente las actividades de investigación, pero la honestidad y la integridad aún deben mantenerse para preservar la integridad científica.