Las referencias alucinadas de ChatGPT provocan escrutinio en la integridad académica
- 32.3% de las citas generadas por IA resultaron ser falsas.
- ChatGPT resume con precisión cuando se le proporcionan referencias correctas.
- Las citas alucinadas varían significativamente entre las subdisciplinas de la psicología.
en un reciente artículo de blog de Jordan MacDonald, quien es estudiante de doctorado en Psicología Experimental en la Universidad de Nuevo Brunswick, se mostró que ChatGPT creó más del 90 % de las citas que dio como referencias autorizadas.
Las noticias en el Mind Pad de la Asociación Canadiense de Psicología indican que la IA ahora puede crear detalles bibliográficos o de referencia falsos, que a veces pueden ser tan plausibles como los reales, ya que la IA incluiría la información que una persona podría recordar y almacenar en su cerebro, como autor, títulos, nombres e identificadores de objetos digitales (DOIs) correctamente formateados.
Navegando el papel dual de la IA en la investigación académica
Aunque los estudiantes pueden tener dificultades para formular un contraste entre el texto original y las referencias gramaticalmente correctas pero factualmente falsas hechas por la IA, lo que les hace dudar de la originalidad de las ideas en entornos académicos.
La investigación implicó verificar la autenticidad de las citas en el área de la psicología en las siguientes seis subáreas: en psicología, estudiamos las cinco áreas de religión, animal, social, clínica, personalidad y neuropsicología.
Finalmente, se generó un número 100 % preciso para las subáreas, 300 según ChatGPT, sin embargo, solo 32,3 de ellas resultaron ser reales, lo que es la clara tendencia para las áreas delineadas.
La IA como pasión del trabajo académico: problemas y desventajas
ChattGPT puede ofrecer tanto una invención falsa como legítima. El estudio de MacDonald lo corroboró. Sin embargo, ese estudio particular realizado en ese prompt no se alinea con los que siempre vemos citados en ChatGPT.
En otras palabras, los ahorros en suministros debido a los errores del modelo complejo harán que los residentes confíen en esta simplificación. Además, atrae una discusión sobre las habilidades de vida que necesitamos en la escuela y el origen de dichas habilidades.
Si los roles de la erudición de la IA como medio para realizar investigación educativa están justificados depende del grado de indistinguibilidad que la IA pueda lograr cuando se trata de simular expertos
Por ejemplo, la evidencia podría descubrirse mediante el uso de herramientas de IA para la asignación académica principal. Esta información podría ser pivotal para las presentaciones de la vida o parecer un poco dispersa. Por lo tanto, las herramientas inteligentes de IA y los enfoques de enseñanza requerirían una consideración seria.
Equilibrando los beneficios y riesgos de la IA en la integridad académica
La investigación, sin embargo, no solo pone de manifiesto las dificultades relacionadas con la IA en las escuelas, sino que también impulsa el debate sobre estas tecnologías como un instrumento valioso en las actividades educativas y de investigación cuando se utilizan bajo ciertas circunstancias.
Se anima a los educadores e investigadores no solo a reconocer, sino también a comprender mejor las limitaciones y capacidades de las tecnologías de IA como Chat GPT, para que puedan utilizar plenamente estas tecnologías sin afectar el estándar académico.
Según MacDonald, el hecho de que estos modelos tengan inmensas ventajas no debería llevarnos a ignorarlos por completo, especialmente si nos engañan para que confiemos únicamente en sus conclusiones para aprender sobre los temas académicos que nos interesan. Los resultados también sugieren la posibilidad de contradicciones hechas por la IA como indicadores de la participación de la IA en el trabajo de los estudiantes, incluso sin seguir la regla general.
El desarrollo futuro de la IA requiere estudios adicionales destinados a elucidar las áreas de sus aplicaciones y limitaciones potenciales. Scavenge investigará nuevas tácticas para la detección de plagio basado en IA y otras formas de fraude.
mientras que, por un lado, la IA como ChatGPT puede conducir a varias ventajas en la investigación académica, por otro lado, tiene la desventaja de proporcionar información fuera de contexto (o fabricada) que puede engañar a los analistas o investigadores.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar investigaciones independientes y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Emman Omwanda
La experiencia de Emmanuel Omwanda se centra en los mercados de criptomonedas, abarcando tanto el análisis fundamental como el técnico. Anteriormente trabajó en diversos medios especializados en criptomonedas antes de unirse a Cryptopolitan, incluyendo CoinEdition, The Crypto Basic, CryptoNews Flash y DroomDroom. Es licenciado en Ciencias (BSc.) en Matemáticas y Ciencias de la Computación por la Universidad Kenyatta de Kenia y actualmente cursa su último año de una Licenciatura en Artes en Comunicación y Estudios de Medios.
