Riesgos de ciberseguridad «seriamente preocupantes» nublado los últimos modelos súper potentes de Anthropic

Según informes vinculados a Fortune, documentos internos filtrados de Anthropic han revelado la existencia de una nueva generación de modelos de IA con el nombre en código «Claude Mythos».

Sin embargo, la noticia más importante es que se informa que los nuevos modelos ya están en fase de prueba a pesar de que se cree que plantean «riesgos de ciberseguridad sin precedentes».

La filtración de datos de Anthropic

Fortune recientemente publicado un informe conteniendo documentos filtrados de la empresa de inteligencia artificial, Anthropic. Los documentos revelan detalles sobre una nueva generación de modelos de IA que se están desarrollando, supuestamente nombrados «Claude Mythos».

La filtración ocurrió debido a un error humano en la configuración del sistema de gestión de contenidos (CMS) de Anthropic. Roy Paz de LayerX Security y Alexandre Pauwels de la Universidad de Cambridge explicaron que Anthropic dejó cerca de 3.000 activos no publicados, incluidas imágenes, archivos PDF, archivos de audio y borradores de publicaciones de blog, en un lago de datos accesible y buscable públicamente. 

El material era descubrible en línea antes de que Fortune notificara a Anthropic, momento en el que la empresa eliminó el acceso público.

Los documentos consultados por Fortune afirman que Claude Mythos ya está en fase de prueba. Más importante aún, indican que Anthropic cree que este nuevo modelo «plantea riesgos de ciberseguridad sin precedentes». 

Anthropic declaró en un borrador de blog que el sistema está «actualmente muy por delante de cualquier otro modelo de IA en capacidades cibernéticas» y advirtió que «presagia una próxima oleada de modelos que pueden explotar vulnerabilidades de maneras que superan con creces los esfuerzos de los defensores».

Debido a los riesgos potenciales, Anthropic planeó una estrategia de lanzamiento cautelosa que priorizaría el acceso temprano para organizaciones de defensa cibernética, dando a los defensores una ventaja inicial para fortalecer las bases de código contra exploits impulsados por IA. 

Anthropic ha informado anteriormente de que un grupo patrocinado por el estado chino utilizó Claude Code para infiltrarse en unas 30 organizaciones, incluidas empresas tecnológicas, instituciones financieras y agencias gubernamentales, por lo que la preocupación no es infundada. 

Los documentos filtrados también revelaron detalles de una cumbre exclusiva para CEOs planeada en una mansión del siglo XVIII en el campo inglés, donde el CEO de Anthropic, Dario Amodei, estaba previsto para albergar a líderes empresariales europeos para discutir la adopción de IA y mostrar las capacidades no lanzadas del modelo Claude.

La batalla continua de Elon Musk con Anthropic 

Una vez que la noticia se hizo pública en X y atrajo una atención significativa, Elon Musk, propietario de X y jefe de xAI, un competidor directo de Anthropic, no perdió la oportunidad de comentar sobre la noticia. 

Musk comentó, «Serio y preocupante», y rápidamente ganó decenas de miles de vistas y miles de me gusta. 

Musk tiene un patrón de comentar noticias negativas sobre competidores con los que está en desacuerdo. Anthropic fue fundada por ex empleados de OpenAI, y Musk ha sido crítico abiertamente tanto de OpenAI como del enfoque de la industria de la IA en general hacia la seguridad y la comercialización.

Mientras tanto, la propia empresa de IA de Musk, xAI, lanzó recientemente una nueva capa de suscripción de pago llamada «SuperGrok Lite». La suscripción cuesta 10 dólares y se han establecido límites para los usuarios gratuitos de Grok para empujarlos a comprarla o cualquiera de los tres planes de suscripción que ofrece Grok. 

Estos incluyen SuperGrok, que cuesta 30 dólares al mes, SuperGrok Heavy, que cuesta 300 dólares al mes, y Grok Business, que también cuesta 30 dólares al mes.