Un informe de OpenAI revela que los piratas informáticos de los estados nacionales no logran obtener ventaja con la IA

Las empresas tecnológicas y los funcionarios gubernamentales siguen advirtiendo que la inteligencia artificial se está convirtiendo en un arma peligrosa para los enemigos extranjeros, pero nuevas evidencias revelan una historia diferente. Informes recientes muestran que grupos patrocinados por estados utilizan las mismas herramientas públicas que los usuarios comunes de internet y, a menudo, enfrentan las mismas dificultades.

OpenAI compartió recientemente detalles sobre cómo grupos vinculados al gobierno intentaron utilizar sus plataformas.

El caso más notable fue el de una campaña de influencia china que se cuandodent un funcionario de las fuerzas del orden chino utilizó ChatGPT como diario personal. El funcionario escribió sobre una operación dirigida a críticos chinos residentes en otros países.

La campaña involucró a cientos de operadores y miles de cuentas falsas en las redes sociales, según OpenAI.

La operación intentó hacerse pasar por agentes de inmigración estadounidenses para intimidar a undent , afirmando falsamente que sus declaraciones públicas infringían la ley estadounidense. En otros casos, los operadores utilizaron documentos falsificados que pretendían provenir de un tribunal de condado para intentar que las cuentas de sus críticos en redes sociales fueran eliminadas.

Obituarios falsos y documentos falsificados son parte de una campaña de acoso

Crearon una esquela falsa y fotos de una lápida para difundir rumores infundados sobredentla muerte de aparecieron en línea en 2023, según confirmó un artículo de la Voz de América en chino. Ben Nimmo, quien dirige las investigaciones en OpenAI, calificó este esfuerzocomoacoso industrializado dirigido a los críticos del Partido Comunista Chino a través de múltiples canales.

El uso de ChatGPT como herramienta de registro terminó exponiendo la operación. ChatGPT funcionaba como un diario para que el agente tracla red encubierta, mientras que otras herramientas generaban la mayor parte del contenido que se difundía en redes sociales. OpenAI baneó al usuario tras descubrir la actividad.

Los investigadores de OpenAI compararon las descripciones del usuario de ChatGPT con su actividad real en línea. El usuario describió haber fingido la muerte de undentchino creando un obituario falso y fotos de la lápida para publicarlas en línea.

En otro caso, el usuario de ChatGPT solicitó al sistema que creara un plan para dañar la reputación de la primera ministra japonesa entrante, Sanae Takaichi, fomentando la indignación por los aranceles estadounidenses. ChatGPT se negó. Pero a finales de octubre, cuando Takaichi asumió el poder, aparecieron en un popular foro de artistas gráficos japoneses que la atacaban y se quejaban de los aranceles.

El informe de OpenAI también cubrió varias operaciones fraudulentas de Camboya que utilizaron la plataforma para fraudes románticos y de inversión, además de campañas de influencia vinculadas a Rusia dirigidas a Argentina y África.

El informe de Microsoft muestra patrones de uso básicos similares

Microsoft publicó un informe independiente, en colaboración con OpenAI, que analiza cómo actores estatales de Rusia, Corea del Norte, Irán y China están probando modelos de lenguaje de gran tamaño para respaldar operaciones de ciberataque. Ambas compañías frenaron los esfuerzos de cinco actores afiliados a estados cerrando sus cuentas.

El informe revelóqueestos actores principalmente usar los servicios para tareas sencillas, como buscar información pública, traducir contenido, corregir errores de codificación y ejecutar tareas básicas de programación. Hasta la fecha, no se han detectado ataques importantes ni nuevos que utilicen estos modelos.

Esta brecha entre el miedo y la realidad se produce en medio de una intensa competencia entre Washington y Pekín por el control de esta tecnología. Su papel en asuntos militares y económicos se ha convertido en una importante disputa. El Pentágono informó a otra empresa, Anthropic, quetiene hasta el viernes para eliminar ciertas características de seguridad de su modelo o se arriesga a perder un contrato detrac.

Microsoft afirmó que está trabajando en principios para reducir los riesgos derivados del mal uso de estas herramientas por parte de grupos estatales y organizaciones criminales. Estos principios incluyen identificar y detener malintencionados , informar a otros proveedores de servicios, colaborar con otros grupos y actuar con transparencia.