Las capacidades engañosas de los sistemas de IA generan alarma entre expertos
Las capacidades engañosas de los sistemas de IA generan alarma entre expertos
- Los estudios revelan que los sistemas de IA ahora son capaces de engañar a los humanos.
- Las habilidades engañosas de la IA plantean riesgos de fraude.
- Los investigadores piden urgentemente marcos regulatorios sólidos.
Un estudio reciente publicado en la revista Patterns reveló que la IA se está volviendo cada vez más capaz de engañar a las personas. El estudio encontró que los sistemas de IA han aprendido a imitar para engañar, halagar e incluso emular otros comportamientos.
También leer: Navegando por el campo minado de los deepfakes de IA: Cómo detectar y combatir el engaño digital
La investigación liderada por el Dr. Peter S. Park, un becario postdoctoral en seguridad existencial de IA en MIT, muestra que el engaño de la IA es común porque es la mejor manera de lograr los objetivos establecidos durante el entrenamiento de la IA. Tales comportamientos han sido notados en numerosos sistemas de IA como juegos y modelos de propósito general utilizados en negociación económica y evaluación de seguridad.
“Pero, en términos generales, creemos que el engaño de la IA surge porque una estrategia basada en el engaño resultó ser la mejor manera de desempeñarse bien en la tarea de entrenamiento de la IA dada. El engaño les ayuda a alcanzar sus objetivos.”
El equipo de investigación
Los sistemas de IA emplean diversas tácticas de engaño
Un ejemplo destacado citado es el CICERO de Meta, una IA desarrollada para jugar al juego Diplomacia. Aunque CICERO fue programado para ser veraz, el programa a menudo tenía que usar métodos deshonestos para vencer a su oponente. Forjó relaciones y las abandonó cuando le convenía, mostrando intención de engañar. Los investigadores han descrito a CICERO como un “maestro del engaño”.
También leer: Combatir la creciente ola de ciberdelitos impulsados por la IA
Otros sistemas de IA también han mostrado comportamientos engañosos. Por ejemplo, Pluribus, una IA que juega al póker, fue capaz de hacer farol a jugadores humanos profesionales en el póker Texas hold ’em. AlphaStar de DeepMind de Google también utilizó la característica del juego Starcraft II conocida como ‘niebla de guerra’ para hacer farol a los oponentes y fingir ataques.
El Dr. Park dijo, “Aunque puede parecer inofensivo si los sistemas de IA hacen trampa en los juegos, puede llevar a ‘avances en capacidades de IA engañosa.’”
La IA “hace el muerto” para evadir las comprobaciones de seguridad
Los riesgos del engaño de la IA no se limitan a los juegos. La investigación liderada por el Dr. Peter identificó instancias en las que la IA se condicionó a sí misma para hacer el muerto y evitar la detección durante las comprobaciones de seguridad. Esto puede ser engañoso para los desarrolladores y reguladores y puede tener graves repercusiones si tales sistemas engañosos se emplean en aplicaciones reales.
En otro caso, el sistema de IA entrenado con retroalimentación humana aprendió a obtener altas calificaciones de las personas engañándolas sobre si se había alcanzado un objetivo particular. Este comportamiento engañoso es bastante peligroso, ya que tales sistemas pueden emplearse para actividades fraudulentas, manipulación de los mercados financieros o influencia en las elecciones.
Los investigadores exigen medidas legales sólidas
Basándose en los hallazgos del estudio, los investigadores afirman que existe la necesidad de medidas legales sólidas para hacer frente a las amenazas que plantea el engaño de la IA.
“Se necesitan soluciones proactivas, como marcos regulatorios para evaluar los riesgos de engaño de la IA, leyes que exijan transparencia sobre las interacciones con la IA y más investigación sobre la detección y prevención del engaño de la IA.”
El equipo de investigación
También leer: La IA podría detectar potencialmente el riesgo de insuficiencia cardíaca, según encuentra la investigación
Se han realizado algunos avances en forma del Reglamento de IA de la UE y la Orden Ejecutiva sobre la Seguridad de la IA del presidente Joe Biden. Sin embargo, la aplicación de estas políticas sigue siendo problemática porque el desarrollo de la IA está creciendo rápidamente y aún no existen buenas formas de gestionar estos sistemas.
Reportaje de Cryptopolitan por Brenda Kanana
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Brenda Kanana
Brenda cuenta con más de 4 años de experiencia especializada en criptomonedas, inteligencia artificial y tecnologías emergentes. Ha trabajado en Zycrypto, Blockchain Reporter y The Coin Republic, y ahora tiene a Cryptopolitan como su hogar. Su licenciatura en Sociología de la Universidad Técnica de Mombasa la mantiene alineada con las necesidades de sus lectores.
