Trump et Xi discutent de la sécurité de l'IA tandis que des experts dénoncent les discours alarmistes d'Anthropic

Une importante société américaine spécialisée dans l'intelligence artificielle a lancé un avertissementtronconcernant la croissance de l'IA chinoise au moment même où lesdentDonald Trump et Xi Jinping concluaient des discussions sur la collaboration technologique à Pékin, créant ainsi un décalage inhabituel entre la rhétorique de l'industrie et la réalité politique. 

La société d'intelligence artificielle Anthropic a publié jeudi un document de recherche affirmant que des machines dotées d'une intelligence de niveau humain pourraient voir le jour d'ici 2028.

L'entreprise a exhorté Washington à maintenir l'avance des États-Unis sur la Chine dans le développement de systèmes d'IA avancés.

Leur article, intitulé «2028 : Deux scénarios pour le leadership mondial en IA», dresse le portrait de systèmes d'IA bientôt capables de gérer des tâches complexes en sciences, en ingénierie et en cybersécurité à un niveau d'expertise humaine.

Anthropic esquisse deux avenirs pour le leadership en IA

Anthropic décrit un avenir où le pays serait composé de « génies des centres de données »

L'IA pourrait accélérer les découvertes scientifiques, le développement de logiciels et la création d'IA encore plus avancées.

Anthropic affirme que le pays qui sera à la pointe de l'IA avancée bénéficiera d'avantages économiques, politiques et militaires considérables.

Le rapport a été publié alors que Trump achevait la première journée de son sommet avec Xi à Pékin.

Anthropic a encouragé les États-Unis et leurs partenaires à renforcer les réglementations en matière d'exportation et à empêcher la « distillation » en Chine, où des modèles d'IA plus petits sont entraînés sur des systèmes plus grands et plus sophistiqués.

Anthropic, le créateur de Claude AI, avait déjà mis en garde contre les progrès de la Chine en matière d'IA et soutenu les restrictions américaines sur les exportations de puces.

Selon cette entreprise, le leadership chinois en matière d'IA avancée pourrait constituer une menace mondiale importante, permettant une répression à grande échelle dépassant les capacités humaines seules.

L'entreprise a exprimé ses inquiétudes quant au recours par les dictatures à une IA sophistiquée pour la surveillance de masse, les attaques numériques et le contrôle de la population.

Selon le rapport, les États-Unis bénéficient actuellement d'un avantage en matière d'IA car ils dominent le développement des puces informatiques haut de gamme et la puissance de calcul nécessaire à l'entraînement des modèles d'IA avancés.

Toutefois, Anthropic a averti que cet avantage pourrait s'amenuiser si les lacunes en matière de restrictions à l'exportation de semi-conducteurs, d'accès à la capacité de calcul à l'étranger et de disponibilité des modèles d'IA ne sont pas comblées.

Anthropic a décrit deux scénarios possibles pour 2028.

Dans l'une de ces stratégies, les États-Unis et leurs alliés renforcent les contrôles à l'exportation, répriment la contrebande de puces et accélèrent l'adoption de l'IA sur leur territoire, aidant ainsi les nations démocratiques à garder 12 à 24 mois d'avance sur la Chine.

L'entreprise a indiqué que cette avancée pourrait créer des opportunités de collaboration avec des experts chinois en IA sur les questions de sécurité et de gouvernance.

Dans le second scénario, la faiblesse des mesures de contrôle et l'accès continu aux infrastructures étrangères permettent à la Chine de maintenir sa compétitivité dans le domaine de l'IA avancée.

Anthropic a averti que la Chine pourrait acquérir une influence majeure sur la scène mondiale de l'IA.

Critiques et diplomates s'opposent à la structuration des conflits

Mais certains observateurs du secteur qualifient d’« irresponsable » et de motivée par l’intérêt personnel la volonté d’Anthropic d’accroître l’avance des États-Unis sur la Chine.

Alvin Wang Graylin, chercheur en numérique à l'Institut Stanford pour l'intelligence artificielle centrée sur l'humain et chercheur principal à l'Institut de politique de l'Asia Society, a déclaré que l'entreprise soulève des inquiétudes légitimes quant à une utilisation abusive potentielle qui méritent d'être prises en compte.

Cependant, « cette vision de la course aux armements nous pousse dans la mauvaise direction au pire moment », a-t-il déclaré.

Alors que le débat se déroulait publiquement, les deux présidentsdenten réalité de coopération en matière d'IA.

Trump a déclaré aux journalistes à bord d'Air Force One, sur le chemin du retour, que les deux pays avaient « discuté de la possibilité de travailler ensemble à l'établissement de garde-fous » en matière d'IA, les qualifiant de « garde-fous standard dont nous parlons constamment ».

Les discussions ont également porté sur les puces H200 de Nvidia.

Pékin n'a pas encore approuvé les livraisons de ces unités de traitement graphique.

Trump a confirmé que le sujet avait été abordé lors des réunions et qu'il pensait que quelque chose pourrait se produire

Il a fait remarquer que la Chine n'avait pas encore acheté ce matériel parce qu'elle avait « choisi de ne pas le faire » et qu'elle « souhaitait plutôt développer ses propres solutions » nationales.

Le porte-parole du ministère chinois des Affaires étrangères, Guo Jiakun, a déclaré vendredi que « la Chine a toujours plaidé pour que toutes les parties promeuvent conjointement le développement de l'intelligence artificielle dans une direction ouverte, inclusive, bénéfique et profitable à tous ».

Concernant la question des puces Nvidia, il a déclaré que la Chine avait partagé à plusieurs reprises sa position sans donner de détails.

Pékin a déjà déclaré qu'il s'opposaittronà tout abus des contrôles à l'exportation.