Google advierte de vulnerabilidades de IA mientras los hackers atacan a Gemini
- Google informa que grupos de amenazas persistentes avanzadas (APT) respaldados por gobiernos intentaron realizar jailbreak.
- Los hackers intentaron manipular Gemini utilizando tácticas simples como reformular los prompts o enviar solicitudes repetidas.
- Google continúa mejorando las medidas de seguridad de Gemini para prevenir el abuso de la IA por parte de actores maliciosos.
Google ha emitido una advertencia sobre los posibles riesgos de seguridad asociados con la inteligencia artificial (IA) después de que hackers patrocinados por el estado intentaran explotar su modelo de IA Gemini.
Sin embargo, sus esfuerzos por hacer jailbreak al sistema fueron finalmente infructuosos.
La inteligencia de amenazas de Google grupo (GTIG) ha publicado un documento sobre ‘Uso adverso de la IA generativa’, que explica cómo los actores de amenazas han conversado con su chatbot de IA, Gemini.
Los hackers intentan hacer jailbreak a la IA Gemini de Google pero fallan con trucos simples
Google informa que los actores de amenazas intentaron hacer jailbreak a la IA Gemini utilizando prompts, incluidos esfuerzos de grupos de amenazas persistentes avanzadas respaldados por gobiernos para aprovechar la IA para actividades maliciosas.
Sin embargo, la multinacional estadounidense no encontró evidencia de intentos avanzados de jailbreak.
En cambio, los hackers utilizaron enfoques sencillos, como escribir diferentes frases o repetir la misma solicitud muchas veces. Google comentó que estos intentos fueron infructuosos.
Los jailbreaks con la ayuda de la IA son ataques de inyección de prompts que intentan evadir restricciones y hacer que un modelo de IA realice acciones prohibidas, como revelar información sensible o crear contenido dañino.
Según Google, un actor APT intentó explotar Gemini utilizando prompts de jailbreak disponibles públicamente para generar código malicioso. Sin embargo, el intento falló, ya que Gemini respondió con una salida filtrada por seguridad.
Google mencionó que los atacantes buscaban lograr diferentes objetivos maliciosos con la ayuda de Gemini, como recopilar información sobre objetivos, identificar vulnerabilidades de fuentes abiertas y escribir código y scripts. Además, se hicieron algunos intentos para apoyar acciones posteriores a la intrusión, por ejemplo, para evitar la detección.
Irán, China y Corea del Norte explotan la IA Gemini de Google para operaciones cibernéticas
Según Google, los grupos APT basados en Irán aprovecharon principalmente la IA para crear campañas de phishing. También utilizaron Gemini para realizar reconocimiento sobre expertos en defensa y organizaciones y generar contenido relacionado con la ciberseguridad.
Mientras tanto, los actores APT de China han aprovechado Gemini para solucionar problemas de código, scripting y tareas de desarrollo. También utilizaron la IA para explorar métodos para obtener un acceso más profundo a las redes objetivo.
El grupo de inteligencia de amenazas de Google y los grupos APT de Corea del Norte han utilizado Gemini en diferentes fases del ciclo de vida del ataque, como la investigación y el desarrollo previos al ataque. El informe dijo:
También utilizaron Gemini para investigar temas de interés estratégico para el gobierno norcoreano, como el ejército surcoreano y las criptomonedas.
– GTIG
El año pasado, los hackers norcoreanos robaron 1.300 millones de dólares en activos digitales, según Chainalysis.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Nellius Irene
Nellius es graduada en Administración de Empresas y Tecnología de la Información con cinco años de experiencia en la industria de las criptomonedas. También es egresada de Bitcoin Dada. Nellius ha contribuido a publicaciones mediáticas líderes, incluyendo BanklessTimes, Cryptobasic y Riseup Media.
