Estudio de Stanford informa de un 97% de errores en detectores de GPT de texto generado por IA

Investigadores de la Universidad de Stanford han realizado un estudio que arroja luz sobre la fiabilidad y las limitaciones de los detectores de GPT, las herramientas diseñadas para diferenciar entre texto escrito por humanos y generado por IA. Un detector en particular marcó abrumadoramente el 97,8% de los ensayos del TOEFL como generados por IA, atribuyendo la mala clasificación a una menor «perplejidad del texto» en la escritura en inglés no nativo.

Los detectores tendían a percibir menos variabilidad y riqueza en el vocabulario y la gramática, lo que llevaba a la suposición errónea de que el texto había sido generado por IA. Este sesgo contra los hablantes no nativos de inglés podría afectar adversamente a varios ámbitos, incluidos los procesos de selección de empleo y los exámenes académicos.

Las implicaciones de estos sesgos y vulnerabilidades plantean preocupaciones sobre posibles impactos negativos en los hablantes no nativos de inglés en diversos contextos, como la contratación de trabajo y los exámenes escolares. Los hallazgos indican que estos detectores frecuentemente clasifican erróneamente la escritura de hablantes no nativos de inglés y pueden ser fácilmente engañados por el lenguaje literario.

El experimento del estudio sobre la mala clasificación

En su investigación, los investigadores de Stanford evaluaron el rendimiento de siete detectores de GPT comerciales, incluido el detector de OpenAI y GPTZero. Analizaron 91 ensayos escritos por personas chinas que realizaban el examen TOEFL (Test of English as a Foreign Language) y 88 ensayos escritos por estudiantes de octavo grado de EE. UU. Los detectores mostraron una discrepancia significativa en la precisión, clasificando erróneamente los ensayos del TOEFL escritos por humanos como generados por IA el 61% de las veces. En comparación, solo el 5,1% de los ensayos de estudiantes de EE. UU. fueron clasificados falsamente como generados por IA.

Sesgos contra hablantes no nativos de inglés

Un detector en particular marcó abrumadoramente el 97,8% de los ensayos del TOEFL como generados por IA, atribuyendo la mala clasificación a una menor «perplejidad del texto» en la escritura en inglés no nativo. Los detectores tendían a percibir menos variabilidad y riqueza en el vocabulario y la gramática, lo que llevaba a la suposición errónea de que el texto había sido generado por IA. Este sesgo contra los hablantes no nativos de inglés podría afectar adversamente a varios ámbitos, incluidos los procesos de selección de empleo y los exámenes académicos.

Engañar a los detectores de GPT con lenguaje literario

Los investigadores también examinaron la capacidad de los detectores de GPT para identificar texto generado por IA. Emplearon ChatGPT para generar respuestas a las preguntas de los ensayos de admisión a la universidad en EE. UU. y descubrieron que, en promedio, los detectores identificaron correctamente los ensayos generados por IA el 70% de las veces. Sin embargo, cuando se solicitó a ChatGPT que mejorara los ensayos utilizando lenguaje literario, los detectores fueron engañados y solo pudieron identificar correctamente el texto generado por IA el 3,3% de las veces. Se observaron resultados similares cuando ChatGPT produjo resúmenes científicos.

Implicaciones y preguntas planteadas

El estudio de Stanford plantea preocupaciones sobre la eficacia de los detectores de GPT, dada su susceptibilidad a ser engañados y su tendencia a clasificar erróneamente el texto escrito por humanos. Esto cuestiona la fiabilidad y utilidad de estos detectores. Los investigadores enfatizan la necesidad de más investigación y abogan por la participación de todas las partes interesadas afectadas por los modelos de IA generativa, como ChatGPT, en las discusiones sobre su uso adecuado.

Para fortalecer a los detectores, los investigadores proponen comparar múltiples piezas de escritura sobre el mismo tema, que abarquen respuestas humanas y de IA, y agruparlas para su análisis. Este enfoque podría conducir potencialmente a un mecanismo de detección más robusto y equitativo. Los detectores diseñados para identificar frases y estructuras sobreutilizadas podrían promover la creatividad y la originalidad en la escritura.

A medida que continúa el desarrollo de modelos de IA generativa y software de detección, el estudio de Stanford destaca los sesgos y vulnerabilidades presentes en los detectores de GPT. Su propensión a clasificar erróneamente la escritura en inglés no nativo y ser engañados por el lenguaje literario exige precaución en su uso, especialmente en entornos evaluativos o educativos. Los investigadores subrayan la importancia de la investigación continua y discusiones inclusivas que involucren a todas las partes interesadas para garantizar la aplicación responsable y justa de los modelos de IA generativa.