Cómo el estudio de la aptitud de la IA para la desinformación revela capacidades impresionantes pero perturbadoras de ChatGPT-3

Una investigación reciente publicada en Science Advances destaca las habilidades extraordinarias de los generadores de texto de IA, como ChatGPT-3 de OpenAI, para dispensar convincentemente información verdadera y falsa en plataformas de redes sociales. El estudio enfatiza los desafíos de identificar contenido generado por IA y el impacto de la desinformación generada por IA en la salud individual y pública. El Dr. Federico Germani, coautor e investigador del Instituto de Ética Biomédica e Historia de la Medicina de la Universidad de Zúrich, subraya la necesidad de comprender los riesgos asociados con la información falsa y la influencia de la IA en el panorama de la información.

¿Cuál es la diferencia entre desinformación y desinformación maliciosa?

La desinformación es información falsa o inexacta: cometer errores sobre los hechos. La desinformación maliciosa (disinformation) es información falsa que se crea deliberadamente para engañar: afirmar los hechos de manera intencionalmente incorrecta. Según la Asociación Estadounidense de Psicología, la desinformación y la desinformación maliciosa han afectado nuestra capacidad para mejorar la salud pública, abordar el cambio climático, mantener una democracia estable y más. Cualquier persona que discuta temas controvertidos en las redes sociales puede encontrarse en medio de una tormenta. ¿Cómo pueden mantenerse seguros al comunicar los hechos y qué pueden hacer las instituciones para apoyarlos? La mentalidad de multitud de las redes sociales hace que el público sea vulnerable a la autoridad de la IA, es decir, que estos datos sean considerados «científicos» y, por tanto, aceptables. Pero, ¿es realmente inteligente la IA?

El poder de ChatGPT-3 para la desinformación

ChatGPT-3 de OpenAI, presentado en 2020, ha revolucionado el panorama de la IA con su asombrosa capacidad para producir textos auténticos basados en indicaciones. Los usos potenciales de los generadores de texto con IA parecen infinitos, desde la creación de chatbots interactivos hasta la ayuda en la investigación académica y la generación de contenido creativo como poesía y cuentos cortos.

El estudio arroja luz sobre preocupaciones significativas respecto al posible mal uso de los generadores de texto con IA, especialmente su capacidad para crear desinformación y contenido engañoso. Con el auge de las redes sociales, la velocidad y el alcance de la información, incluida la desinformación y la desinformación maliciosa, se han intensificado, lo que añade urgencia para abordar este problema.

Otro estudio empírico reveló que las personas a menudo sobreestiman su capacidad para detectar información falsa o engañosa, conocida como el «punto ciego del sinsentido». Eventos recientes como la pandemia de COVID-19 y la invasión de Rusia a Ucrania han demostrado la influencia de la desinformación y la desinformación maliciosa en la opinión pública, los comportamientos de salud y las decisiones políticas.

Desafíos para las empresas de redes sociales

A pesar de los esfuerzos de las empresas por combatir la información falsa en sus plataformas, el Informe de Amenazas Adversarias del primer trimestre de 2023 de Meta reconoce que las operaciones de influencia encubiertas, el espionaje cibernético y las redes privadas de desinformación maliciosa siguen planteando problemas significativos en las redes sociales.

El Dr. Germani y sus colegas realizaron un estudio para evaluar qué tan bien pueden las personas distinguir entre contenido generado por humanos y texto creado por ChatGPT-3. El estudio involucró a 11 sujetos susceptibles a la desinformación maliciosa, y se crearon tweets sintéticos que abarcaban información veraz y falsa utilizando ChatGPT-3. También se incluyeron tweets auténticos de Twitter sobre los mismos temas para su comparación.

Se pidió a los participantes del estudio que identificaran si un tweet contenía información verdadera o falsa y si había sido creado por un humano o por ChatGPT-3. Los resultados revelaron que las personas eran más competentes para identificar la desinformación maliciosa en tweets «falsos orgánicos» (escritos por usuarios reales) en comparación con los tweets «falsos sintéticos» (creados por ChatGPT-3). Por el contrario, las personas tenían más probabilidades de reconocer correctamente la información precisa en tweets «verdaderos sintéticos» (generados por ChatGPT-3) en comparación con los tweets «verdaderos orgánicos» (escritos por usuarios reales).

El desafío de la diferenciación

El estudio destacó que los participantes tuvieron dificultades para diferenciar entre tweets escritos por humanos y aquellos generados por ChatGPT-3. Los investigadores sugieren que el texto de GPT-3 puede ser más fácil de leer y comprender, lo que podría contribuir a esta dificultad. Curiosamente, ChatGPT-3 no tuvo un mejor desempeño que los humanos al reconocer información y desinformación, lo que demuestra su «desconocimiento» sobre la precisión de la información que producía.

El Dr. Germani enfatiza la necesidad de estudios a mayor escala en las plataformas de redes sociales para comprender cómo interactúan las personas con la información generada por IA y cómo esta moldea el comportamiento y la adherencia a las recomendaciones de salud pública. El estudio subraya las capacidades sin precedentes de los generadores de texto con IA y enfatiza la urgencia de la alfabetización digital en la era de la IA.

Monitoreo y mitigación de efectos negativos

Los investigadores destacan la importancia de evaluar críticamente las implicaciones de los modelos de lenguaje grandes como ChatGPT-3 y tomar medidas para mitigar cualquier efecto negativo que puedan tener en la sociedad. A medida que la tecnología de IA continúa evolucionando, la vigilancia es crucial para garantizar su uso responsable y abordar posibles abusos.

Los hallazgos del estudio revelan la impresionante pero inquietante capacidad de los generadores de texto con IA para producir desinformación de manera más convincente que los humanos. A medida que aumenta la influencia y popularidad de los generadores de texto con IA, el estudio subraya la necesidad de medidas proactivas para abordar la desinformación y garantizar el uso responsable de la tecnología de IA.

Nota: La imagen destacada muestra una figura robótica impulsada por IA generando una nube de texto distorsionado a su alrededor, fría y calculadora por diseño.