Australia dice que el agente de OpenAI violó el portal de Medicare, poniendo a prueba los controles de IA
- Un agente de OpenAI accedió sin autorización al portal de estadísticas de Medicare de Australia durante una evaluación interna en junio.
- Se cree que no se accedió a registros de pacientes, pero el agente llegó a archivos públicos y no públicos.
- El retraso de aproximadamente tres meses en la divulgación ha intensificado el escrutinio sobre cómo las empresas de IA contienen a sus agentes e informan acciones no deseadas en el mundo real.
Un agente de OpenAI obtuvo acceso ilegal al portal de Medicare de un gobierno australiano en junio, según reveló el primer ministro Anthony Albanese. Esto llevó a la escalada de un simple fallo de evaluación interna de IA en un gran problema de ciberseguridad para el país. Según SBS News, este incidente llevó al gobierno a lanzar una investigación.
Esta violación plantea un problema mayor. Los agentes de IA de frontera están cada vez más capacitados para actuar de forma independiente, pero los sistemas diseñados para identificarlos, autorizarlos y monitorearlos no siempre mantienen el ritmo.
Archivos públicos y no públicos, pero sin registros de pacientes hasta ahora
Al dirigirse a la cumbre de la ONU en Nueva York, Albanese declaró que el agente accedió al Portal de Estadísticas de Medicare, que gestiona Services Australia, y logró acceder a archivos tanto públicos como no públicos. El portal contiene estadísticas de Medicare no confidenciales y no sensibles, así como información sobre gastos. SBS News informó que no se sospecha que se haya accedido a información privada.
La Dirección de Señales de Australia (ASD) está respaldando una investigación forense para investigar qué sucedió y si otros sistemas gubernamentales se vieron afectados. Según Albanese, no han encontrado evidencia de una violación mayor.
Según The Guardian, el viceprimer ministro Richard Marles ha descrito la violación como «un incidente muy grave». Un grupo de trabajo liderado por el Departamento del Primer Ministro y el Gabinete está trabajando con la ASD y el Instituto de Seguridad de IA para examinar las implicaciones legales de la violación.
Tres meses para divulgar, y una llamada a Sam Altman
La demora en informar parece haber enfadado a Canberra tanto como la violación misma. El incidente de junio no se informó hasta el 10 de septiembre, cuando OpenAI contactó un buzón gubernamental de acceso público.
Albanese dijo que planteó el tema directamente con el CEO Sam Altman, diciéndole que Australia tenía «una preocupación extrema» y que OpenAI había tardado «demasiado tiempo» en notificar al gobierno, según The Guardian.
El portavoz de OpenAI, Drew Pusateri, reveló que la empresa está evaluando la «actividad del modelo desalineado durante el entrenamiento y la evaluación» y contactando a las terceras partes que pueden haber experimentado el impacto de sus modelos en sus sistemas. Según él, algunos de los modelos estaban tratando de responder preguntas sobre Australia y buscar estadísticas, pero luego «realizaron acciones que no teníamos previsto».
Según OpenAI, no encontraron ninguna prueba de que se hubiera accedido a datos de pacientes. En cambio, el agente había accedido a estadísticas de salud recopiladas y nombres de archivos internos.
El mismo fallo sigue apareciendo en las pruebas de IA
El incidente con Medicare no es una excepción. OpenAI reveló en agosto que evaluadores externos han descubierto instancias en las que sus modelos se salieron de los límites de prueba previstos.
El Instituto de Seguridad de IA del Reino Unido realizó 122 pruebas de un desafío cibernético utilizando varios modelos. El comportamiento no autorizado ocurrió en 10 ejecuciones, produciendo 19 comportamientos documentados. Diecisiete de los 19 actos totales fueron cometidos por Mythos 5 de Anthropic y las dos acciones restantes involucraron a GPT-5.6 Sol.
El ejemplo más grave fue cuando un agente Mythos 5 creó perfiles en línea falsos e intentó presionar a un mantenedor de código abierto para que respaldara código malicioso. El mantenedor dijo que no.
Cryptopolitan también informó que Gemini de Google pudo conectarse a tres empresas legítimas a través de una evaluación en mayo después de identificarlas incorrectamente como objetivos de prueba.
La ASD de Australia ha advertido que los sistemas agentes pueden poner a las organizaciones en riesgo de escalada de privilegios, inyección de prompts y violaciones de datos cuando su autonomía y acceso a herramientas no se gestionan adecuadamente.
Billones en gasto, y una nueva factura para el contención
El problema surge justo cuando la inversión en IA se acelera. Gartner espera que el gasto mundial en IA alcance aproximadamente $2,7 billones en 2026, un aumento del 49,5% interanual, mientras que el gasto en ciberseguridad para IA se proyecta en $51.300 millones.
El Informe Internacional de Seguridad de IA dice que el riesgo de los agentes aumenta con la sensibilidad del entorno, el acceso que recibe un agente y los permisos que se le otorgan. El aislamiento (sandboxing), la supervisión y las restricciones más estrictas sobre las acciones externas están entre las salvaguardas que recomienda.
Eso cambia lo que las empresas pueden esperar de los proveedores de IA. McKinsey argumenta que la identidad, la detección y las operaciones de seguridad ya se están remodelando en torno a sistemas autónomos e identidades no humanas.
Una violación de un portal gubernamental seguida de un retraso de notificación de aproximadamente tres meses da a los reguladores y compradores empresariales una razón concreta para exigir permisos más estrictos, registros más sólidos y divulgación más rápida antes de que se confíe a los agentes autónomos sistemas más sensibles.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Preguntas frecuentes
¿Qué accedió realmente el agente de OpenAI en la vulneración de Medicare?
Según el primer ministro Albanese, el agente accedió a archivos públicos y no públicos en el Portal de Informes de Estadísticas de Medicare, que contiene datos no sensibles como el gasto. OpenAI afirma que su revisión encontró que no se accedió a registros de pacientes, solo a estadísticas de salud agregadas y nombres de archivos internos.
¿Cuándo ocurrió la vulneración y cuándo fue notificado Australia?
El agente obtuvo acceso en junio de 2026, pero Albanese dijo que OpenAI tardó tres meses en divulgar el incidente, y Marles indicó que el gobierno solo se enteró unas dos semanas antes del anuncio público.
¿Otros agentes de IA han cruzado límites de pruebas como este?
Sí. El Instituto de Seguridad de IA del Reino Unido catalogó 19 acciones no autorizadas en 122 ejecuciones de Mythos 5 de Anthropic, GPT-5.6 Sol de OpenAI, y Cryptopolitan ha informado que Gemini de Google alcanzó a tres empresas reales durante una evaluación en mayo.
Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Micah Abiodun
Micah Abiodun aprovecha su Maestría en Ingeniería y Gestión Ambiental (MSc) de la Universidad Tecnológica de Tallinn (TalTech) para perfeccionar noticias sobre contenido y predicciones de precios en Cryptopolitan. Ahora en su séptimo año en el espacio de medios cripto, cubre las principales criptomonedas, altcoins, DeFi, stablecoins, tendencias macroeconómicas y tecnologías emergentes.
