OpenAI advierte que sus modelos de IA de próxima generación podrían convertirse en herramientas para hackers
- OpenAI advierte que sus futuros modelos de IA podrían alcanzar niveles de riesgo de ciberseguridad "altos", potencialmente creando exploits de día cero o facilitando ataques sofisticados a sistemas críticos.
- El rendimiento en desafíos de seguridad aumentó del 27% al 76% en solo tres meses, lo que muestra un avance rápido en las capacidades.
- La empresa está lanzando programas defensivos que incluyen acceso confiable para equipos de seguridad, el escáner de vulnerabilidades Aardvark y un nuevo Consejo de Riesgos Frontier.
La empresa detrás de ChatGPT emitió una advertencia contundente el miércoles sobre los peligros potenciales que acechan en su próxima oleada de sistemas de inteligencia artificial, diciendo que podrían presentar graves amenazas de ciberseguridad.
OpenAI declaró que sus futuros modelos de IA podrían ser capaces de crear exploits de día cero funcionales dirigidos a sistemas informáticos altamente protegidos. La tecnología también podría ayudar a llevar a cabo ataques sofisticados contra empresas o instalaciones industriales diseñados para causar daños en el mundo real.
Las cosas se están moviendo rápidamente. En su blog OpenAI mencionó, el rendimiento en los desafíos de seguridad de captura de la bandera saltó del 27% en GPT-5 en agosto de 2025 al 76 por ciento en GPT-5.1-Codex-Max solo tres meses después en noviembre de 2025.
OpenAI ahora asume que cada nuevo modelo que construya podría alcanzar lo que llama niveles "altos" de capacidad de ciberseguridad. Eso significa sistemas que pueden crear exploits funcionales para vulnerabilidades previamente desconocidas en redes bien protegidas, o ayudar con campañas de intrusión complicadas dirigidas a infraestructura crítica.
La empresa respaldada por Microsoft dijo que está invirtiendo en hacer que sus modelos sean mejores en el trabajo de seguridad defensiva. La empresa está construyendo herramientas para ayudar a los equipos de seguridad a revisar el código en busca de problemas y corregir agujeros de seguridad. OpenAI quiere dar a los defensores una ventaja ya que generalmente están en desventaja numérica y tienen pocos recursos.
Aquí es donde se pone complicado. El trabajo de ciberseguridad defensivo y ofensivo utiliza los mismos conocimientos y métodos básicos. Lo que ayuda a los defensores podría ayudar igualmente a los atacantes. OpenAI dice que no puede depender de una medida de protección. Necesita capas de controles de seguridad que funcionen juntas.
La empresa está utilizando restricciones de acceso, seguridad de infraestructura más fuerte, controles sobre el flujo de información y monitoreo constante. También está entrenando modelos para rechazar solicitudes que podrían habilitar ciberataques mientras los mantiene útiles para el trabajo de seguridad legítimo y la educación.
Los sistemas de detección vigilan la actividad sospechosa en todos los productos utilizando modelos avanzados. Cuando algo parece peligroso, el sistema bloquea los resultados, cambia a un modelo más débil o lo marca para revisión humana.
Probando los límites
OpenAI trabaja con grupos especializados de pruebas de seguridad que intentan romper todas sus defensas. Simulan cómo podría operar un atacante determinado con recursos serios. Esto ayuda a encontrar puntos débiles antes de que lo hagan las amenazas reales.
Los riesgos de ciberseguridad de la IA preocupan a las personas en toda la industria. Como informó Cryptopolitan anteriormente, los hackers ya utilizan tecnologías de IA para mejorar sus ataques.
La empresa planea un programa que otorgue a usuarios calificados que trabajan en la defensa de la ciberseguridad acceso especial a capacidades mejoradas en sus modelos más nuevos. OpenAI aún está trabajando para determinar qué funciones pueden estar ampliamente disponibles y cuáles necesitan restricciones más estrictas.
Luego está Aardvark. Esta herramienta de seguridad en pruebas privadas ayuda a los desarrolladores y equipos de seguridad a encontrar y corregir vulnerabilidades a gran escala. Escanea el código en busca de debilidades y sugiere correcciones. El sistema ya descubrió nuevas vulnerabilidades en software de código abierto. OpenAI planea dedicar recursos significativos a fortalecer el ecosistema de seguridad más amplio. Eso incluye ofrecer cobertura gratuita a algunos proyectos de código abierto no comerciales.
OpenAI creará el Consejo de Riesgo Fronterizo. Esto reúne a defensores y profesionales experimentados en ciberseguridad. El grupo comienza con la ciberseguridad pero se expandirá a otras áreas. Los miembros del consejo ayudan a determinar los límites entre las capacidades útiles y el uso indebido potencial.
La seguridad sigue siendo un desafío
La empresa trabaja con otras empresas líderes de IA a través del Foro de Modelos Fronterizos. Esta organización sin fines de lucro desarrolla una comprensión compartida de las amenazas y las mejores prácticas. OpenAI cree que los riesgos de seguridad de la IA avanzada podrían provenir de cualquier sistema de IA principal en la industria.
Investigaciones recientes mostraron que los agentes de IA pueden descubrir vulnerabilidades de día cero valiosas por millones en contratos inteligentes de blockchain. Esto destaca cómo estas capacidades avanzadas cortan por ambos lados.
OpenAI ha trabajado para fortalecer sus propias medidas de seguridad, pero la empresa enfrentó sus propios problemas. La empresa enfrentó múltiples brechas de seguridad en el pasado. Esto muestra lo difícil que es proteger los sistemas de IA y la infraestructura.
La empresa dice que este es un trabajo en curso. El objetivo es dar ventajas a los defensores y fortalecer la seguridad de la infraestructura crítica en todo el ecosistema tecnológico.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Noor Bazmi
Noor Bazmi contribuye al equipo de noticias de Cryptopolitan con una licenciatura en Estudios de Medios. Noor cubre noticias sobre blockchain, criptomonedas, inteligencia artificial, grandes tecnológicas, mercados de VE, economía global y cambios en políticas gubernamentales. Está cursando estudios de marketing para conectar con audiencias globales.
