Las referencias alucinadas de ChatGPT provocan un escrutinio de la integridad académica

En una publicación reciente del blog de Jordan MacDonald,dent de doctorado en Psicología Experimental de la Universidad de New Brunswick, se demostró que ChatGPT creó más del 90% de las citas que proporcionó como referencias autorizadas. 

Según The News, publicado en Mind Pad de la Asociación Canadiense de Psicología, la IA ahora puede crear detalles bibliográficos o de referencia falsos, que a veces pueden ser tan plausibles como los reales, ya que la IA incluiría qué información podría recordar una persona y almacenar en su cerebro, como autor, títulos, nombres edentde objetos digitales (DOI) correctamente formateados. 

Navegando el doble papel de la IA en la investigación académica

Aunque a losdentles puede resultar difícil formular un contraste entre el texto original y las referenciasmaticcorrectas pero factualmente no verdaderas creadas por IA, lo que les hace dudar de la originalidad de las ideas en entornos académicos.

La investigación implicó verificar la autenticidad de las citas en el área de la psicología en los siguientes seis subcampos: en psicología, estudiamos las cinco áreas de religión, animal, social, clínica, personalidad y neuropsicología. 

Finalmente, se generó un número 100% preciso para los subcampos, 300 según ChatGPT, sin embargo, solo 32,3 de ellos resultaron ser reales, lo que es la tendencia clara para las áreas delineadas.

La IA como pasión del trabajo académico: problemas y desventajas

ChattGPT puede ofrecer una invención tanto falsa como legítima. El estudio de MacDonald lo corroboró. Sin embargo, ese estudio en particular, realizado en ese contexto, no coincide con los que siempre citamos sobre ChatGPT. 

En otras palabras, el ahorro en materiales debido a los errores del modelo complejo hará que losdentconfíen en esta simplificación. Además,tracun debate sobre las habilidades de vida que necesitamos en la escuela y la fuente de dichas habilidades. 

El que el papel de la investigación en IA como medio para realizar investigaciones educativas esté justificado o no depende del grado de indistinguibilidad que la IA pueda lograr cuando se trata de simular expertos

Por ejemplo, se podría descubrir evidencia mediante el uso de herramientas de IA para la tarea académica principal. Esta información podría ser fundamental para presentaciones en vivo o parecer un poco dispersa. Por lo tanto, las herramientas inteligentes de IA y los enfoques de enseñanza requerirían una consideración seria.

Cómo equilibrar los beneficios y riesgos de la IA en la integridad académica

Sin embargo, la investigación no sólo saca a la luz las dificultades que presenta la IA en las escuelas, sino que también impulsa el debate sobre estas tecnologías como un instrumento valioso en las actividades educativas y de investigación cuando se utilizan en determinadas circunstancias. 

Se alienta a los educadores e investigadores no solo a reconocer sino también a comprender mejor las limitaciones y capacidades de las tecnologías de IA como Chat GPT, para que puedan utilizar plenamente estas tecnologías sin afectar el estándar académico.

Según MacDonald, el hecho de que estos modelos tengan inmensas ventajas no debería llevarnos a ignorarlos por completo, especialmente si nos inducen a confiar solo en sus conclusiones para aprender sobre los temas académicos que nos interesan. Los resultados también apuntan a la posibilidad de contradicciones creadas por la IA como indicadores de la participación de la IA en el trabajodent incluso sin seguir la regla general.

El desarrollo de la IA requiere estudios adicionales para dilucidar sus áreas de aplicación y sus posibles limitaciones. Scavenge investigará nuevas tácticas para detectar el plagio basado en IA y otras formas de fraude. 

Si bien, por un lado, la IA como ChatGPT puede generar varias ventajas en la investigación académica, por otro lado, tiene el inconveniente de brindar información fuera de contexto (o fabricada) que puede inducir a error a los analistas o investigadores.