Hackers de estados-nación no logran ventaja con IA, encuentra informe de OpenAI
- Las fuerzas del orden chinas expusieron accidentalmente su campaña de influencia cuando un funcionario utilizó ChatGPT como diario para documentar operaciones.
- Los hackers de estados-nación de Rusia, Irán, Corea del Norte y China utilizan la IA solo para tareas básicas.
- La brecha entre el hype del miedo y la realidad es enorme.
Empresas tecnológicas y funcionarios gubernamentales mantener advierten sobre la inteligencia artificial convirtiéndose en un arma peligrosa para enemigos extranjeros, pero nueva evidencia cuenta una historia diferente. Informes recientes muestran que grupos patrocinados por el estado están usando las mismas herramientas disponibles públicamente que los usuarios regulares de internet, y a menudo luchando tanto como ellos.
OpenAI compartió recientemente detalles sobre cómo grupos vinculados al gobierno intentaron usar sus plataformas.
El caso más notable provino de una campaña de influencia china que se expuso accidentalmente cuando un funcionario de la policía china usó ChatGPT como un diario personal. El funcionario escribió sobre una operación dirigida a críticos chinos que viven en otros países.
La campaña involucró a cientos de operadores y miles de cuentas falsas de redes sociales, según OpenAI.
La operación intentó hacerse pasar por oficiales de inmigración de los Estados Unidos para asustar a un disidente diciendo falsamente que sus declaraciones públicas violaban la ley estadounidense. En otros casos, los operadores usaron documentos falsificados que afirmaban ser de un tribunal condal para intentar que se retiraran las cuentas de redes sociales de los críticos.
Falsos fallecimientos y documentos falsificados parte de la campaña de acoso
Crearon un falso fallecimiento y fotos de lápidas para difundir rumores falsos sobre la muerte de un disidente. Estos rumores en realidad aparecieron en línea en 2023, confirmó un artículo de Voice of America en chino. Ben Nimmo, quien dirige las investigaciones en OpenAI, calificó el esfuerzo como un acoso industrializado dirigido a críticos del Partido Comunista Chino a través de múltiples canales.
El uso de ChatGPT como herramienta de registro terminó exponiendo la operación. ChatGPT funcionó como un diario para que el operador rastree la red encubierta, mientras que otras herramientas generaron la mayor parte del contenido real que se difundió a través de redes sociales. OpenAI prohibió al usuario después de encontrar la actividad.
Los investigadores de OpenAI emparejaron las descripciones del usuario de ChatGPT con la actividad en línea real. El usuario describió fingir la muerte de un disidente chino creando un falso fallecimiento y fotos de lápidas para publicar en línea.
En otro caso, el usuario de ChatGPT le pidió al sistema que creara un plan para dañar la reputación de la próxima primera ministra japonesa Sanae Takaichi, avivando la ira sobre los aranceles estadounidenses. ChatGPT se negó. Pero a finales de octubre, cuando Takaichi asumió el poder, los hashtags aparecieron en un foro popular de artistas gráficos japoneses atacándola y quejándose de los aranceles.
El informe de OpenAI también cubrió varias operaciones estafadoras de Camboya que usaron la plataforma para fraudes de romance e inversión, además de campañas de influencia vinculadas a Rusia dirigidas a Argentina y África.
El informe de Microsoft muestra patrones de uso básico similares
Microsoft publicó un informe separado conjuntamente con OpenAI que analiza cómo los actores estatales de Rusia, Corea del Norte, Irán y China están probando modelos de lenguaje grandes para apoyar operaciones de ciberataque. Ambas empresas detuvieron los esfuerzos de cinco actores afiliados al estado cerrando sus cuentas.
El informe de Microsoft found these actors mainly wanted to use services for simple jobs like searching publicly available information, translating content, fixing coding errors, and running basic programming tasks. No major or new attacks using the models have been found so far.
This gap between fear and reality happens during tough competition between Washington and Beijing over control of this technology. What role it plays in military and economic matters has become a major fight. The Pentagon recently told another company, Anthropic, it has until Friday to remove certain safety features from its model or risk losing a defense contract.
Microsoft dijo que está trabajando en principios para reducir los riesgos del mal uso de estas herramientas por parte de grupos de estados-nación y organizaciones criminales. Estos principios incluyen identificar y detener a los usuarios malintencionados, informar a otros proveedores de servicios, colaborar con otros grupos y ser transparentes.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Noor Bazmi
Noor Bazmi contribuye al equipo de noticias de Cryptopolitan con una licenciatura en Estudios de Medios. Noor cubre noticias sobre blockchain, criptomonedas, inteligencia artificial, grandes tecnológicas, mercados de VE, economía global y cambios en políticas gubernamentales. Está cursando estudios de marketing para conectar con audiencias globales.
