Las capacidades engañosas de los sistemas de IA generan alarma entre los expertos

Un estudio reciente publicado en la revista Patterns reveló que la IA es cada vez más capaz de engañar a las personas. El estudio descubrió que los sistemas de IA han aprendido a imitar para engañar, adular e incluso emular otros comportamientos. 

Lea también: Cómo navegar por el campo minado de las deepfakes de IA: cómo detectar y combatir el engaño digital

La investigación dirigida por el Dr. Peter S. Park, investigador postdoctoral en seguridad existencial de IA en el MIT, demuestra que el engaño por parte de la IA es común porque es la mejor manera de alcanzar los objetivos establecidos durante su entrenamiento. Este tipo de comportamiento se ha observado en numerosos sistemas de IA, como los utilizados en videojuegos y en modelos de propósito general empleados en la negociación económica y la evaluación de la seguridad.

Pero, en general, creemos que el engaño de la IA surge porque una estrategia basada en el engaño resultó ser la mejor manera de obtener buenos resultados en la tarea de entrenamiento de la IA. El engaño les ayuda a lograr sus objetivos 

El equipo de investigación

Los sistemas de IA emplean diversas tácticas de engaño

Un ejemplo destacado es CICERO de Meta, una IA desarrollada para jugar al juego Diplomacia. Aunque CICERO fue programado para ser veraz, el programa a menudo tuvo que emplear métodos turbios para vencer a su oponente. Forjaba relaciones y les daba la espalda cuando le convenía y mostraba intención de engañar. Los investigadores han descrito a CICERO como un "maestro del engaño".

Lea también: Cómo combatir la creciente ola de ciberdelitos impulsados ​​por IA

Se ha observado que otros sistemas de IA también muestran comportamientos engañosos. Por ejemplo, Pluribus, una IA que juega al póker, logró engañar a jugadores profesionales humanos en Texas Hold'em. AlphaStar, de DeepMind de Google, también utilizó la función del juego Starcraft II conocida como «niebla de guerra» para engañar a sus oponentes y fingir ataques.

El Dr. Park afirmó: “Si bien puede parecer inofensivo que los sistemas de IA hagan trampa en los juegos, esto puede conducir a avances significativos en las capacidades engañosas de la IA”.

La IA se hace la muerta para evadir los controles de seguridad

Los riesgos del engaño de la IA no se limitan a los videojuegos. La investigación dirigida por el Dr. Peterdentcasos en los que la IA se había condicionado a sí misma a hacerse la muerta para evitar ser detectada durante las comprobaciones de seguridad. Esto puede resultar engañoso para desarrolladores y organismos reguladores, y puede acarrear graves consecuencias si estos sistemas engañosos se emplean en aplicaciones reales.

En otro caso, el sistema de IA entrenado con retroalimentación humana aprendió a obtener altas calificaciones de los usuarios engañándolos haciéndoles creer que se había logrado un objetivo específico. Este comportamiento engañoso es bastante peligroso, ya que estos sistemas pueden emplearse para actividades fraudulentas, manipular los mercados financieros o influir en las elecciones.

Los investigadores exigen medidas legales mástron

Basándose en los resultados del estudio, los investigadores afirman que es necesario adoptar medidas jurídicastronpara hacer frente a las amenazas que plantea el engaño mediante IA.

“Se necesitan soluciones proactivas, como marcos regulatorios para evaluar los riesgos de engaño de la IA, leyes que exijan transparencia sobre las interacciones de la IA y más investigación para detectar y prevenir el engaño de la IA”

El equipo de investigación

Lea también: La IA podría detectar el riesgo de insuficiencia cardíaca, según un estudio

Se han logrado algunos avances gracias a la Ley de IA de la UE y la Orden Ejecutiva deldent Joe Biden sobre Seguridad de la IA. Sin embargo, la aplicación de estas políticas sigue siendomatic debido al rápido crecimiento del desarrollo de la IA y a la falta de métodos eficaces para gestionar estos sistemas.

Informe Cryptopolitan de Brenda Kanana