Le PDG d'Anthropic dit que DeepSeek était le « pire » lors d'un test critique de sécurité des données sur les armes biologiques
- Le PDG d’Anthropic, Dario Amodei, a identifié une vulnérabilité dans DeepSeek : il peut générer des informations liées aux armes biologiques, ce qui pourrait s’avérer dangereux à court terme.
- Amodei indique que le gouvernement américain a envoyé une délégation pour discuter avec la Chine de sujets liés à la sécurité de l’IA, mais que celle-ci n’a pas manifesté d’intérêt.
- Les législateurs américains proposent une loi visant à interdire l’utilisation de DeepSeek sur les appareils gouvernementaux.
Le PDG d'Anthropic, Dario Amodei, a découvert une faiblesse plus risquée dans le modèle R1 de DeepSeek qui amènera probablement les consommateurs à reconsidérer l'utilisation du chatbot. Il a affirmé que le chatbot peut générer des informations liées aux armes biologiques, ce qui pourrait être dangereux à court terme.
Dans une interview, Amodei a déclaré que DeepSeek avait généré des informations inhabituelles sur les armes biologiques lors d'un test de sécurité d'Anthropic. Alors qu'il parlait des performances de la startup en IA, il a mentionné qu'il s'agissait de « la pire de pratiquement tous les modèles que nous ayons jamais testés […] Il n'y avait absolument aucune restriction contre la génération de ces informations. »
Anthropic teste régulièrement différents modèles d'IA pour évaluer leurs risques potentiels pour la sécurité nationale. Ils le font en vérifiant si les modèles peuvent produire des informations sur les armes biologiques qui ne sont pas facilement disponibles sur Google ou dans les manuels.
De plus, CISCO a également réussi à pirater DeepSeek R1 sans aucun échec. Cela diffère des autres types avancés comme o1, qui empêchent la plupart des attaques grâce à leurs fonctionnalités de protection.
Cependant, Amodei a déclaré que cette faiblesse ne constitue pas une menace pour le moment. Il a également mentionné que tant qu'il n'y aura pas de preuve claire de danger, il y aura de bonnes raisons de continuer à l'améliorer. Il a exhorté les ingénieurs et l'entreprise à prêter une réelle attention à la sécurité de l'IA. DeepSeek fait déjà face à l'hostilité dans certains pays, comme l'Italie.
D'un autre côté, des entreprises comme AWS et Microsoft ont annoncé qu'elles ajoutaient R1 à leurs services cloud. Certains pourraient voir cela comme faisant partie de l'apprentissage de l'entreprise, tandis que d'autres pourraient le prendre plus au sérieux. Il n'y a pas encore de réponse ni de backlash face aux nouvelles découvertes.
L'IA américaine prend la tête – Dario Amodei
Selon le PDG d'Anthropic, « Il y a maintenant trois à cinq entreprises aux États-Unis et une entreprise en Chine. Qu'elles continuent de produire des modèles proches de la frontière dépendra du nombre de puces auxquelles elles peuvent accéder et si elles peuvent accéder à des puces à une échelle beaucoup plus grande que celles auxquelles elles ont pu accéder jusqu'à présent. »
DeepSeek a justifié sa technologie bon marché par des puces Nvidia achetées avant les restrictions américaines. Selon Amodei, « Les contrôles à l'exportation n'ont jamais vraiment été conçus pour empêcher DeepSeek ou toute autre entreprise chinoise d'obtenir le nombre de puces qu'elles avaient, à hauteur de quelques dizaines de milliers. »
Il a ajouté : « Nous devrions raisonnablement nous attendre à ce que la contrebande ait lieu. Les contrôles à l'exportation peuvent être plus efficaces pour empêcher les acquisitions de grande envergure – ils ne peuvent pas avoir un million de puces car cela représenterait facilement des dizaines de milliards d'activité économique, approchant les 100 milliards. »
DeepSeek a affirmé avoir utilisé un mélange de H100, qui sont les puces standard aux États-Unis. Ils en ont utilisé environ 10 000. Cela signifie qu'ils ne devraient pas être trop affectés.
Concernant la question de l'indépendance de la Chine en matière de puces, en particulier les puces Huawei, il a déclaré que cela prendrait 10 à 15 ans. Il a ajouté : « Il sera en fait difficile de fabriquer des puces concurrentielles par rapport aux nouvelles Nvidia B100 […] Mon sentiment est qu'il est peu probable que les puces Huawei deviennent d'ici peu comparables aux puces américaines. »
Amodei a exprimé des préoccupations concernant les lois aux États-Unis. Il a expliqué que des efforts sont déployés pour évaluer et potentiellement limiter les risques des systèmes d'IA.
Cela inclut les préoccupations concernant leurs dangers, leur mauvaise utilisation par des individus, par exemple dans le cadre d'attaques biologiques, et les risques posés par les systèmes eux-mêmes. Au cours de l'année dernière, plusieurs nouvelles lois ont été adoptées aux États-Unis. Cela soulève la question de savoir si le marché de DeepSurvivra aux États-Unis ?
De plus, Amodei a salué les entreprises américaines d'IA car, selon lui, elles collaborent bien. Il a déclaré qu'elles suivent toutes les mêmes règles. OpenAI, Meta, Google et xAI doivent toutes se conformer aux réglementations américaines. Il a déclaré : « Vous pouvez savoir que vous mettez en œuvre des pratiques de sécurité nécessaires et que les autres feront de même. »
Au contraire, il a déclaré : « Je ne pense pas que cela soit possible entre les États-Unis et la Chine. Nous sommes en quelque sorte dans une anarchie internationale hobbesienne. »
Amodei a révélé que, « Je suis au courant des efforts du gouvernement américain pour envoyer une délégation discuter avec la Chine sur des sujets liés à la sécurité de l'IA. Ma compréhension, encore une fois, je n'évidemment pas fait partie de ces délégations, est qu'il n'y avait pas beaucoup d'intérêt de la part de la Chine. »
Les législateurs américains veulent interdire DeepSeek sur les appareils gouvernementaux
DeepSeek est sur le point d'être frappée par une nouvelle interdiction pour des raisons de sécurité. Cette fois par le gouvernement américain. Similaire à la règle concernant TikTok, un groupe bipartite aux États-Unis propose une loi pour empêcher l'utilisation de l'application d'IA chinoise DeepSeek sur les appareils gouvernementaux.
Les représentants Josh Gottheimer, un démocrate du New Jersey, et Darin LaHood, un républicain de l'Illinois, ont présenté un projet de loi appelé « No DeepSeek on Government Devices Act » (Loi interdisant DeepSeek sur les appareils gouvernementaux).
Ce projet de loi rendrait illégal pour les travailleurs fédéraux d'utiliser l'application d'IA chinoise sur les appareils appartenant au gouvernement. Ils ont souligné que le gouvernement chinois pourrait utiliser l'application pour espionner et diffuser de fausses informations.
Gottheimer a déclaré : « Le Parti communiste chinois a clairement indiqué qu'il exploiterait tout outil à sa disposition pour saper notre sécurité nationale, répandre de fausses informations nuisibles et collecter des données sur les Américains […] Nous ne pouvons tout simplement pas risquer que le PCC s'infiltre dans les appareils de nos responsables gouvernementaux et compromette notre sécurité nationale. »
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Florence Muchai
Florence couvre depuis 6 ans l'actualité crypto, du jeu vidéo, de la technologie et de l'IA. Ses études en informatique à l'Université de sciences et technologies de Meru et sa formation en gestion des catastrophes et en diplomatie internationale à l'MMUST lui ont amplement permis de développer des compétences linguistiques, d'observation et techniques. Florence a travaillé au sein du groupe VAP et en tant qu'éditrice pour plusieurs médias spécialisés dans la crypto.
