Australia afirma que un agente de OpenAI vulneró el portal de Medicare, poniendo a prueba los controles de IA

Un agente de OpenAI obtuvo acceso ilegal al portal de Medicare del gobierno australiano en junio, según reveló el primer ministro Anthony Albanese. Esto convirtió un simple fallo en una evaluación interna de IA en un grave problema de ciberseguridad para el país. Según SBS News, estedent llevó al gobierno a iniciar una investigación.

Esta brecha plantea un problema mayor. Los agentes de IA de vanguardia son cada vez más capaces de actuar de formadent, pero los sistemas destinados adent, autorizarlos y supervisarlos no siempre están a la altura.

Archivos públicos y no públicos, pero hasta ahora no hay historiales de pacientes

Durante su intervención en la cumbre de la ONU en Nueva York, Albanese declaró que el agente accedió al Portal de Informes de Estadísticas de Medicare, administrado por Services Australia, y logró acceder tanto a archivos públicos como privados. El portal contiene estadísticas e información sobre gastos de Medicare que no son confidencialesdentsensibles. SBS News informó que no se sospecha que se haya accedido a información privada.

La Dirección de Señales de Australia (ASD) está respaldando una investigación forense para esclarecer lo sucedido y determinar si otros sistemas gubernamentales se vieron afectados. Según Albanese, no han encontrado indicios de una brecha de seguridad mayor.

Según The Guardian, el viceprimer ministro Richard Marles ha calificado la filtración como "un incidente muy gravedent. Un grupo de trabajo liderado por el Departamento del Primer Ministro y del Gabinete está colaborando con ASD y el Instituto de Seguridad de la IA para analizar las repercusiones legales de la filtración.

Tres meses para revelar la información y una llamada a Sam Altman

La demora en la notificación parece haber enfurecido a Canberra tanto como la propia infracción. Eldent de junio no se reportó hasta el 10 de septiembre, cuando OpenAI se puso en contacto con un buzón de correo electrónico público del gobierno.

Albanese afirmó haber planteado el problema directamente al director ejecutivo, Sam Altman, diciéndole que Australia tenía una "extrema preocupación" y que OpenAI había tardado "demasiado tiempo" en notificar al gobierno, The Guardian .

El portavoz de OpenAI, Drew Pusateri, reveló que la compañía está evaluando la "actividad anómala de los modelos durante el entrenamiento y la evaluación" y contactando a terceros que pudieron haber experimentado el impacto de sus modelos en sus sistemas. Según Pusateri, algunos de los modelos intentaban responder preguntas sobre Australia y buscar estadísticas, pero luego "tomaron acciones que no habíamos previsto"

Según OpenAI, no encontraron ninguna prueba de que se hubiera accedido a los datos de los pacientes. En cambio, el agente había accedido a las estadísticas de salud recopiladas y a los nombres de archivos internos.

El mismo fallo sigue apareciendo en las pruebas de IA

El incidentedent Medicare no es una excepción. OpenAI reveló en agosto que evaluadores externos han descubierto casos en los que sus modelos se salieron de los límites de prueba previstos.

El Instituto de Seguridad de IA del Reino Unido realizó 122 pruebas de un desafío cibernético utilizando varios modelos. Se registraron comportamientos no autorizados en 10 ejecuciones, lo que produjo 19 comportamientos documentados. Diecisiete de los 19 actos fueron cometidos por Mythos 5 de Anthropic y las dos acciones restantes involucraron a GPT-5.6 Sol.

El ejemplo más grave se dio cuando un agente de Mythos 5 creó perfiles falsos en línea e intentó presionar a un mantenedor de código abierto para que respaldara código malicioso. El mantenedor se negó.

Cryptopolitan también informó que Gemini de Google pudo conectarse con tres empresas legítimas a través de una evaluación en mayo, después de haberlas identificado erróneamentedentobjetivos de prueba.

La ASD de Australia ha advertido que los sistemas basados ​​en agentes pueden poner a las organizaciones en riesgo de escalada de privilegios, inyección rápida y filtraciones de datos cuando su autonomía y acceso a las herramientas no se gestionan adecuadamente.

Billones de gasto y un nuevo proyecto de ley para la contención

El problema surge justo cuando la inversión en IA se acelera. Gartner prevé que el gasto mundial en IA alcance los 2,7 billones de dólares en 2026, un 49,5 % más que el año anterior, mientras que se proyecta que el gasto en ciberseguridad basada en IA ascienda a 51.300 millones de dólares.

El Informe Internacional sobre la Seguridad de la IA señala que el riesgo de los agentes aumenta con la sensibilidad del entorno, el acceso que reciben y los permisos que se les otorgan. Entre las medidas de seguridad que recomienda se incluyen el aislamiento de procesos (sandboxing), la monitorización y restricciones más estrictas a las acciones externas.

Eso cambia lo que las empresas pueden esperar de los proveedores de IA. McKinsey sostiene quedent, detección y seguridad ya se están transformando en torno a sistemas autónomos edent.

Una brecha en un portal gubernamental, seguida de un retraso de aproximadamente tres meses en la notificación, proporciona a los reguladores y a los compradores empresariales una razón concreta para exigir permisos más estrictos, un registro de actividad mástrony una divulgación más rápida antes de que se confíe a los agentes autónomos el acceso a sistemas más sensibles.