Le PDG d'Anthropic affirme que DeepSeek a obtenu les résultats les plus médiocres lors d'un test critique de sécurité des données sur les armes biologiques

Le PDG d'Anthropic, Dario Amodei, a découvert une faille de sécurité importante dans le modèle R1 de DeepSeek, susceptible d'inciter les consommateurs à reconsidérer l'utilisation du chatbot. Il a affirmé que ce dernier pouvait générer des informations relatives aux armes biologiques, ce qui pourrait s'avérer dangereux à court terme.

Dans une interview, Amodei a déclaré que DeepSeek avait généré des informations inhabituelles sur les armes biologiques lors d'un test de sécurité anthropique. Évoquant les performances de cette start-up d'IA, il a précisé : « C'est le pire modèle que nous ayons jamais testé […] Il n'y avait absolument aucun blocage pour empêcher la génération de ces informations. »

Anthropic teste régulièrement différents modèles d'IA afin d'évaluer leurs risques potentiels pour la sécurité nationale. Pour ce faire, l'organisation vérifie si ces modèles peuvent produire des informations sur les armes biologiques qui ne sont pas facilement accessibles sur Google ou dans les manuels scolaires.

De plus, Cisco a réussi à pirater DeepSeek R1 sans aucune défaillance. Cela diffère d'autres modèles avancés comme o1, qui bloquent la plupart des attaques grâce à leurs dispositifs de protection.

Amodei a toutefois affirmé que cette faille ne représente pas une menace pour le moment. Il a également indiqué qu'en l'absence de preuves tangibles de danger, il y aurait de bonnes raisons de poursuivre les améliorations. Il a exhorté les ingénieurs et l'entreprise à accorder une attention particulière à la sécurité de l'IA. DeepSeek fait déjà face à l'hostilité de certains pays, comme l'Italie.

Par ailleurs, des entreprises comme AWS et Microsoft ont annoncé l'intégration de R1 à leurs services cloud. Certains y voient une phase d'apprentissage pour l'entreprise, tandis que d'autres la prennent plus au sérieux. Pour l'instant, ces nouvelles découvertes n'ont suscité ni réactions ni critiques. 

L'IA américaine prend les devants – Dario Amodei

Selon le PDG d'Anthropic, « il y a actuellement trois à cinq entreprises aux États-Unis et une en Chine. Leur capacité à poursuivre la fabrication de modèles de pointe dépendra du nombre de puces auxquelles elles pourront accéder et de leur aptitude à y accéder à une échelle bien plus importante qu'actuellement. »

DeepSeek justifiait le coût avantageux de sa technologie par de puces Nvidia avant les restrictions américaines. Selon Amodei, « les contrôles à l'exportation n'ont jamais vraiment été conçus pour empêcher DeepSeek, ni aucune autre entreprise chinoise, d'obtenir les quantités de puces qu'ils ont pu se procurer, soit plusieurs dizaines de milliers d'unités. »  

Il a ajouté : « Il faut s'attendre raisonnablement à ce que la contrebande se produise. Les contrôles à l'exportation peuvent être plus efficaces pour empêcher les acquisitions importantes – ils ne peuvent pas avoir un million de puces, car cela représente facilement des dizaines de milliards d'activité économique, approchant les 100 milliards. »

DeepSeek affirme avoir utilisé un mélange de puces H100, qui sont les puces standard aux États-Unis. Ils en ont utilisé environ 10 000. Cela signifie qu'elles ne devraient pas être trop affectées.

Concernant l'dent de la Chine dans le domaine des puces, notamment celles de Huawei, il a estimé qu'il faudrait entre 10 et 15 ans. Il a ajouté : « Il sera en réalité difficile de fabriquer des puces compétitives face, par exemple, à la nouvelle Nvidia B100 […] À mon avis, il est peu probable que les puces Huawei deviennent comparables aux puces américaines dans un avenir proche. »

Amodei a exprimé des inquiétudes concernant la législation en vigueur aux États-Unis. Il a expliqué que des efforts sont déployés pour évaluer et potentiellement limiter les risques liés aux systèmes d'IA.

Cela inclut les inquiétudes liées à leurs dangers, à leur utilisation abusive par des individus, par exemple lors d'attaques biologiques, et aux risques que représentent les systèmes eux-mêmes. Au cours de l'année écoulée, plusieurs nouvelles lois ont été adoptées aux États-Unis. Dès lors, la question se pose de savoir si le marché de DeepSeek survivra aux États-Unis

Par ailleurs, Amodei a fait l'éloge des entreprises américaines spécialisées en IA, soulignant leur excellente collaboration. Il a précisé qu'elles respectent toutes les mêmes règles. OpenAI, Meta, Google et xAI sont toutes tenues de se conformer à la réglementation américaine. Il a ajouté : « Vous avez ainsi la certitude d'adopter les pratiques de sécurité nécessaires, et les autres en feront de même. »

Au contraire, a-t-il déclaré, « je ne pense pas que ce soit possible entre les États-Unis et la Chine. Nous sommes en quelque sorte dans une anarchie internationale hobbesienne. »

Amodei a révélé : « Je suis au courant des efforts déployés par le gouvernement américain pour envoyer une délégation en Chine discuter de questions liées à la sécurité de l'IA. Si j'ai bien compris, et je n'en faisais évidemment pas partie, la partie chinoise n'a pas manifesté un grand intérêt. »

Les législateurs américains souhaitent interdire DeepSeek sur les appareils gouvernementaux

DeepSeek s'apprête à être de nouveau interdite pour des raisons de sécurité, cette fois-ci par le gouvernement américain. À l'instar de la concernant TikTok , un groupe bipartisan aux États-Unis propose une loi visant à empêcher l'utilisation de l'application chinoise d'intelligence artificielle DeepSeek sur les appareils gouvernementaux.

Les représentants Josh Gottheimer, démocrate du New Jersey, et Darin LaHood, républicain de l'Illinois, ont présenté un projet de loi intitulé « Loi interdisant la recherche profonde sur les appareils gouvernementaux » 

Ce projet de loi interdirait aux fonctionnaires fédéraux d'utiliser l' application chinoise d'intelligence artificielle sur les appareils appartenant au gouvernement. Ils ont souligné que le gouvernement chinois pourrait utiliser cette application à des fins d'espionnage et de diffusion de fausses informations.

Gottheimer a déclaré : « Le Parti communiste chinois a clairement indiqué qu'il exploiterait tous les outils à sa disposition pour saper notre sécurité nationale, diffuser de la désinformation nuisible et collecter des données sur les Américains […] Nous ne pouvons tout simplement pas prendre le risque que le PCC infiltre les appareils de nos responsables gouvernementaux et mette en péril notre sécurité nationale. »