Des risques de cybersécurité « sérieusement inquiétants » planent sur les derniers modèles ultra-puissants d'Anthropic

Selon des rapports liés à Fortune, des documents internes divulgués d'Anthropic ont révélé l'existence d'une nouvelle génération de modèles d'IA codés « Claude Mythos ».

Cependant, la nouvelle principale est que les nouveaux modèles seraient déjà en phase de test malgré le fait qu'ils soient considérés comme présentant des « risques de cybersécurité sans précédent ».

La fuite de données d'Anthropic

Fortune a récemment publié un rapport contenant des documents divulgués de l'entreprise d'intelligence artificielle, Anthropic. Les documents révèlent des détails sur une nouvelle génération de modèles d'IA en développement, nommés « Claude Mythos ».

La fuite est survenue en raison d'une erreur humaine dans la configuration du système de gestion de contenu (CMS) d'Anthropic. Roy Paz de LayerX Security et Alexandre Pauwels de l'Université de Cambridge ont expliqué qu'Anthropic avait laissé près de 3 000 actifs non publiés, y compris des images, des fichiers PDF, des fichiers audio et des articles de blog en brouillon, dans un lac de données accessible et consultable publiquement. 

Le matériel était découvrable en ligne avant que Fortune ne notifie Anthropic, après quoi l'entreprise a supprimé l'accès public.

Les documents consultés par Fortune affirment que Claude Mythos est déjà en phase de test. Plus important encore, ils indiquent qu'Anthropic estime que ce nouveau modèle « pose des risques de cybersécurité sans précédent ». 

Anthropic a déclaré dans un projet de blog que le système est « actuellement bien en avance sur tout autre modèle d'IA en matière de capacités cyber » et a averti que « cela annonce une vague prochaine de modèles capables d'exploiter des vulnérabilités de manière bien plus rapide que les efforts des défenseurs ».

En raison des risques potentiels, Anthropic a prévu une stratégie de déploiement prudente qui prioriserait l'accès anticipé pour les organisations de défense cybersécurité, donnant aux défenseurs une longueur d'avance pour renforcer les bases de code contre les exploits basés sur l'IA. 

Anthropic a précédemment signalé qu'un groupe parrainé par l'État chinois avait utilisé Claude Code pour s'infiltrer dans environ 30 organisations, y compris des entreprises technologiques, des institutions financières et des agences gouvernementales, de sorte que la préoccupation n'est pas infondée. 

Les documents divulgués ont également révélé les détails d'un sommet des PDG sur invitation prévu dans un manoir du XVIIIe siècle à la campagne anglaise, où le PDG d'Anthropic, Dario Amodei, devait accueillir des dirigeants d'entreprise européens pour discuter de l'adoption de l'IA et présenter les capacités non publiées du modèle Claude.

La poursuite du combat d'Elon Musk contre Anthropic 

Une fois que la nouvelle a éclaté sur X et a attiré une attention significative, Elon Musk, propriétaire de X et chef de xAI, un concurrent direct d'Anthropic, n'a pas manqué l'occasion de commenter la nouvelle. 

Musk a commenté, « Sérieusement inquiétant », et a rapidement gagné des dizaines de milliers de vues et des milliers de likes. 

Musk a pour habitude de commenter les nouvelles négatives concernant les concurrents avec lesquels il est en désaccord. Anthropic a été fondée par d’anciens employés d’OpenAI, et Musk a été ouvertement critique de l’approche d’OpenAI et de l’industrie de l’IA en général en matière de sécurité et de commercialisation.

Pendant ce temps, la propre entreprise d’IA de Musk, xAI, a récemment lancé un nouveau niveau d’abonnement payant appelé « SuperGrok Lite ». L’abonnement coûte 10 $ et des limites ont été imposées aux utilisateurs gratuits de Grok pour les inciter à acheter cet abonnement ou l’un des trois autres plans proposés par Grok. 

Il s’agit de SuperGrok, qui coûte 30 $ par mois, SuperGrok Heavy, qui coûte 300 $ par mois, et Grok Business, qui coûte également 30 $ par mois.