DERNIÈRES ACTUALITÉS
SÉLECTIONNÉ POUR VOUS

Le revirement de l’IA d’Anthropic ? Amodei rejette les allégations d’interdiction des modèles ouverts

ParAshish KumarAshish Kumar 4 min de lecture
Le revirement d'Anthropic en matière d'IA ? Dario Amodei rejette les accusations de bannissement des modèles ouverts
  • Dario Amodei, d'Anthropic, a déclaré que l'entreprise n'a jamais cherché à interdire les modèles d'IA à poids ouverts.
  • Il a plutôt appelé à un durcissement des contrôles à l'exportation des puces, à des règles anti-distillation et à des tests de sécurité obligatoires pour l'IA.
  • Ce débat survient alors que les législateurs américains envisagent des règles susceptibles de remodeler l'avenir de l'IA open-source.

Dario Amodei, le PDG d’Anthropic, a déclaré lundi que l’entreprise n’a jamais tenté d’interdire les modèles d’IA à poids ouverts, une réfutation adressée aux régulateurs envisageant de nouvelles réglementations et aux concurrents qui affirment que Claude a utilisé des dilemmes de sécurité et de sûreté pour se défendre.

Cette clarification est importante car Washington est en train de déterminer dans quelle mesure les réglementations seront mises en œuvre. Le Sénat a présenté un projet de loi qui pourrait entraîner une limite fédérale sur les modèles à poids ouverts, qui sont une catégorie de modèles que les développeurs peuvent télécharger et utiliser sur leurs machines. L’issue du débat influencera quel laboratoire bénéficiera d’un avantage concurrentiel, quel type de modèles les entreprises auront accès sur le marché, et dans quelle mesure divers fournisseurs de modèles fermés domineront celui-ci.

Les goulets d’étranglement qu’Amodei souhaite réglementer

Dans son article de blog, Amodei n’a pas appelé à une interdiction pure et simple, mais a proposé trois suggestions plus spécifiques aux décideurs politiques. Premièrement, il souhaite une réglementation plus stricte des technologies de puces avancées et des dispositifs informatiques envoyés aux nations autoritaires telles que la Chine. Il souhaite également que les interdictions contre la « distillation » industrielle soient strictes, ce qui signifie former un nouveau modèle avec les sorties d’un modèle plus avancé. Enfin, il souhaite des tests obligatoires des modèles puissants afin de garantir leur sécurité.

Selon Amodei, l’interdiction ne ferait qu’atténuer le véritable danger, car, comme il l’a dit, « les acteurs malveillants sont peu susceptibles d’être des entreprises américaines légitimes. » Amodei a admis auprès d’Axios que l’interdiction des sources ouvertes chinoises devrait aider à maintenir des laboratoires comme le sien à l’abri de la concurrence, mais a maintenu que « cela n’a jamais été mon objectif. » Comme l’a noté Bloomberg Law, sa principale préoccupation concerne les États autoritaires développant une IA supérieure aux produits américains.

La lettre qu’Anthropic n’a pas signée

Cela fait suite à un rejet public majeur. Selon les rapports, plus de deux douzaines d’entreprises, dont Nvidia, Meta et Microsoft, ont signé une lettre précédente intitulée « Open Weights and American AI Leadership » dans laquelle les entreprises demandaient aux législateurs de ne pas imposer de restrictions sur la technologie, comme l’a déclaré Business Insider. Le week-end dernier, OpenAI, Google et SpaceX ont rejoint le groupe, de sorte que lundi, Anthropic était la seule grande entreprise à ne pas l’avoir fait.

La Silicon Valley a compris. David Sacks, le capital-risqueur et ancien conseiller en IA de l’administration Trump, a alerté l’industrie sur X qu’elle doit « les surveiller comme le lait sur le feu. »

À son tour, Bill Gurley de Benchmark a déclaré qu’Anthropic protégeait sa « stratégie économique d’entreprise ». Kai-Fu Lee, qui a fondé la startup chinoise de modèles ouverts 01.AI, a déclaré que la personne qui n’a pas signé était « bien plus intéressante que celle qui l’a fait. »

D’une inquiétude commune concernant la Chine à une division publique

La division est plus récente que le problème sous-jacent. Cryptopolitan a rapporté que les concurrents à modèles fermés s’unissaient contre eux-mêmes à Washington depuis un certain temps. En juillet, Axios a observé comment OpenAI et Anthropic ont uni leurs forces pour sensibiliser les législateurs aux puissants modèles chinois à poids ouverts, une position qui a attiré les critiques de personnes telles que Sacks, qui l’attaquent comme un cas possible de capture réglementaire qui consoliderait l’influence des grandes entreprises.

Le catalyseur du débat était Kimi K3, un modèle à poids ouverts développé par la startup chinoise Moonshot, qui rivalisait avec les modèles américains à un prix beaucoup plus bas. Certaines personnes ont accusé Moonshot d’avoir utilisé le modèle Fable d’Anthropic pour entraîner Kimi K3 par un processus appelé distillation, et le secrétaire au Trésor Scott Bessent a proposé des sanctions contre les modèles chinois reconnus pour copier les américains. Par la suite, OpenAI et Google, les deux plus grands concurrents d’Anthropic, ont signé une lettre ouverte, laissant Anthropic seul et soulevant des questions sur le fait de savoir si Anthropic souhaitait une interdiction pour défendre ses intérêts commerciaux.

Ce qu’Amodei a concédé et ce qu’il a rejeté

Amodei a tenté de marcher sur une ligne fine. Il a reconnu que les modèles ouverts améliorent l’accessibilité, permettent la concurrence et donnent le contrôle aux clients ; il a même qualifié les modèles ouverts sans capacités risquées de « bien public. » Cependant, il a rejeté l’affirmation clé de sécurité de la lettre, affirmant qu’il ne croit pas que les poids ouverts permettent aux défenseurs de construire facilement des défenses ou que l’accès accru soit plus utile aux défenseurs qu’aux attaquants. À son avis, tout modèle capable peut utiliser des virus de niveau pandémique comme arme, tandis que la création d’une défense prend beaucoup de temps.

Actuellement, la division est la plus évidente dans l’industrie. Nvidia a saisi cette occasion pour annoncer la formation de l’Open Secure AI Alliance, soutenue par Microsoft, SpaceX, Hugging Face, entre autres, affirmant que les technologies ouvertes sont protégées par la loi et qu’une interdiction totale donnerait trop de pouvoir à quelques fournisseurs fermés. Maintenant, la balle est dans le camp des législateurs qui doivent encore élaborer des normes qui détermineraient la réponse aux questions abordées ci-dessus.

 

Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.

FAQ

Pourquoi Anthropic a-t-il refusé de signer la lettre sur les poids ouverts ?

Anthropic a décliné de rejoindre la lettre « Open Weights and American AI Leadership » car Amodei rejette l'affirmation selon laquelle les modèles ouverts rendent nécessairement l'IA plus sûre ou offrent aux défenseurs cybernétiques un avantage sur les attaquants ; une position que les critiques estiment également protéger son modèle commercial fermé.

Pourquoi Anthropic a-t-il refusé de signer la lettre sur les poids ouverts ?

Anthropic a décliné de rejoindre la lettre « Open Weights and American AI Leadership » car Amodei rejette l'affirmation selon laquelle les modèles ouverts rendent nécessairement l'IA plus sûre ou offrent aux défenseurs cybernétiques un avantage sur les attaquants ; une position que les critiques estiment également protéger son modèle commercial fermé.

Que souhaite qu'Amodei que les régulateurs fassent à la place d'une interdiction ?

Il a préconisé trois politiques plus ciblées : un renforcement des contrôles sur les puces avancées destinées aux gouvernements autoritaires, une répression de la distillation de modèles à l'échelle industrielle et des tests de sécurité obligatoires pour les modèles suffisamment performants, qu'ils soient ouverts ou fermés.

Qu'est-ce qui a déclenché le débat sur les modèles d'IA à poids ouverts ?

Le débat s'est intensifié après que Kimi K3, un modèle chinois à poids ouverts de Moonshot, ait approché les performances des modèles frontaux américains à une fraction du coût, provoquant des accusations de distillation par la Maison Blanche et des discussions sur des sanctions contre les modèles chinois ouverts.

Partager cet article

Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.

Ashish Kumar

Ashish Kumar

Ashish Kumar est un journaliste spécialisé dans la crypto et la finance, avec huit ans d'expérience en rédaction. Il couvre l'actualité des marchés cryptographiques, de la réglementation, de la DeFi et des écosystèmes d'échanges. Il a travaillé pour Coingape, Todayq et Newsroompost. Ashish détient un PGDP en journalisme anglais de l'IIMC. Il a également interviewé des personnalités du secteur telles qu'Arthur Hayes, Yat Siu, Austin Federa, et bien d'autres.

PLUS D'ACTUALITÉS…