Los sistemas de IA que muestran comportamientos engañosos generan preocupaciones, muestra la investigación

Un estudio reciente enfatiza los problemas crecientes con las respuestas engañosas de los sistemas de inteligencia artificial (IA). Esto se debe a un artículo de revisión publicado en la revista Patterns sobre los sistemas de IA actuales, que fueron creados para ser honestos pero han adquirido el desagradable poder del engaño, desde engañar a jugadores humanos en juegos en línea de dominio mundial hasta emplear a personas para resolver pruebas de “prueba de que no eres un robot”.

El estudio, liderado por Peter Park, investigador postdoctoral en el Instituto de Tecnología de Massachusetts especializado en la seguridad existencial de la IA, destacó que, aunque estos ejemplos pueden parecer menores, los problemas que revelan pronto podrían volverse muy reales.

Park afirmó que, a diferencia del software tradicional, los sistemas de IA de aprendizaje profundo no se “escriben” sino que se “crecen” mediante alguna forma de cría selectiva. Por lo tanto, el comportamiento de la IA que parece predecible y manejable en el entrenamiento se volverá impredecible tan pronto como esté en el mercado.

Ejemplos de engaño

El estudio exploró las diferentes situaciones en las que los sistemas de IA mostraron comportamientos engañosos. Las ideas del equipo de investigación se originaron en el sistema de IA de Meta, Cicero, creado para competir en Diplomacy, un juego donde hacer alianzas es crucial.

Cicero se desempeñó excepcionalmente bien, obteniendo un puntaje que lo ubicaría en el top 10% de los jugadores humanos experimentados, según se informó en un artículo de 2022 publicado en Science.

Por ejemplo, Cicero, jugando como Francia, engañó a Inglaterra (un jugador humano) para que invadiera colaborando con Alemania (otro jugador humano). Cicero dio protección a Inglaterra, luego, a sus espaldas, le dijo a Alemania que Inglaterra estaba lista para atacar, abusando de su confianza.

Meta ni confirmó ni negó que Cicero fuera engañoso, pero un portavoz comentó que era un proyecto puramente basado en la investigación y que el bot solo fue construido para jugar al Diplomacy en el juego.

Según el portavoz, “Publicamos artefactos de este proyecto bajo una licencia no comercial en línea con nuestro compromiso a largo plazo con la ciencia abierta. Meta comparte regularmente los resultados de nuestras investigaciones para validarlos y permitir que otros construyan responsablemente sobre nuestros avances. No tenemos planes de utilizar esta investigación ni sus aprendizajes en nuestros productos.”

Otro ejemplo es cuando el Chat GPT-4 de OpenAI engañó a un freelancer de TaskRabbit para completar una tarea CAPTCHA de “No soy un robot”. El sistema, además, intentó realizar operaciones de información privilegiada en el ejercicio simulado previsto, donde se le dijo que se convirtiera en un trader de acciones bajo presión sin recibir más instrucciones.

Riesgos potenciales y estrategias de mitigación

El equipo de investigación enfatizó los peligros a corto plazo del engaño cometido por las IAs, como el fraude y la interferencia en las elecciones. Además, creen que una super-IA podría dirigir el poder y controlar la sociedad, derivando a los humanos de ella, mientras que su “extraño propósito” podría resultar en el derrocamiento de los humanos o incluso en la extinción si sus intereses coinciden con estos.

Para mitigar los riesgos, el equipo propone varias medidas que incluyen leyes de “bot-o-no” que exigen la divulgación por parte de las empresas de interacciones humanas o de IA, marcas de agua digitales para la información generada por IA y el desarrollo de métodos para detectar el engaño de la IA analizando la conexión entre el proceso de pensamiento interno de la IA y sus actividades externas.