Trump et Xi discutent de la sécurité de l'IA alors que les experts critiquent l'alarmisme d'Anthropic

Une importante entreprise américaine d'intelligence artificielle a émis un avertissement sévère sur la croissance de l'IA chinoise juste alors que les présidents Donald Trump et Xi Jinping concluaient des entretiens sur la collaboration technologique à Pékin, créant un écart inhabituel entre la rhétorique de l'industrie et la réalité politique. 

L'entreprise d'IA Anthropic a publié un document de recherche jeudi affirmant que des machines dotées d'une intelligence de niveau humain pourraient arriver d'ici 2028.

L'entreprise a exhorté Washington à maintenir l'Amérique en avance sur la Chine dans le développement de systèmes d'IA avancés.

Leur article, intitulé « 2028 : Deux scénarios pour la domination mondiale de l'IA », dresse un tableau de systèmes d'IA bientôt capables de gérer des travaux complexes dans les domaines des sciences, de l'ingénierie et de la cybersécurité à un niveau d'expertise humaine.

Anthropic dessine deux futurs pour la domination de l'IA

Anthropic décrit un avenir avec ce qu'elle appelle « un pays de génies dans des centres de données ».

L'IA pourrait accélérer les découvertes scientifiques, le développement de logiciels et la création d'IA encore plus avancées.

Anthropic soutient que le pays qui domine l'IA avancée bénéficiera d'avantages économiques, politiques et militaires significatifs.

Le rapport a été publié alors que Trump terminait la première journée de son sommet avec Xi à Pékin.

Anthropic a encouragé les États-Unis et leurs partenaires à renforcer les réglementations sur les exportations et à empêcher la « distillation » en Chine, où de petits modèles d'IA sont entraînés sur des systèmes plus grands et plus sophistiqués.

Anthropic, le créateur de Claude AI, a précédemment mis en garde contre les avancées de l'IA en Chine et soutenu les limites d'exportation de puces américaines.

Selon l'entreprise, la domination chinoise en matière d'IA avancée pourrait représenter une menace mondiale significative, permettant une répression à grande échelle au-delà de ce que les humains seuls pourraient accomplir.

L'entreprise a exprimé des préoccupations concernant le déploiement par les dictatures d'IA sophistiquées pour la surveillance de masse, les attaques numériques et le contrôle de la population.

Selon le rapport, l'Amérique dispose actuellement d'un avantage en matière d'IA car elle domine le développement de puces informatiques haut de gamme et la puissance de calcul nécessaire à l'entraînement de modèles d'IA avancés.

Cependant, Anthropic a averti que cet avantage pourrait diminuer si les lacunes dans les restrictions d'exportation de semi-conducteurs, l'accès à la capacité de calcul à l'étranger et la disponibilité des modèles d'IA ne sont pas résolues.

Anthropic a décrit deux issues possibles pour 2028.

Dans l'un, les États-Unis et leurs alliés resserreraient les contrôles à l'exportation, réprimeraient la contrebande de puces et accéléreraient l'adoption de l'IA à domicile, aidant les nations démocratiques à rester en avance de 12 à 24 mois sur la Chine.

L'entreprise a déclaré que cet avantage pourrait créer des opportunités de travailler avec des experts chinois en IA sur la sécurité et la gouvernance.

Dans le deuxième scénario, une application faible et un accès continu aux infrastructures à l'étranger permettraient à la Chine de maintenir sa compétitivité en matière d'IA avancée.

Anthropic a mis en garde contre le fait que la Chine pourrait gagner une influence majeure sur la scène mondiale de l'IA.

Les critiques et les diplomates rejettent le cadre du conflit

Mais certains observateurs de l'industrie qualifient la poussée d'Anthropic pour que l'Amérique élargisse son avance sur la Chine d'« irresponsable » et motivée par l'intérêt personnel.

Alvin Wang Graylin, chercheur associé à l'Institut Stanford pour l'IA centrée sur l'humain et chercheur principal à l'Institut de politique de la Société Asie, a déclaré que l'entreprise soulève des inquiétudes valables concernant une utilisation potentielle abusive qui méritent d'être prises en compte.

Cependant, son « cadre de course aux armées nous pousse dans la mauvaise direction au moment exactement inopportun », a-t-il ajouté.

Pendant que le débat se déroulait publiquement, les deux présidents discutaient en réalité de la coopération en matière d'IA.

Trump a déclaré aux journalistes à bord d'Air Force One au retour qu'ils « ont discuté de la possibilité de travailler ensemble pour établir des garde-fous » sur l'IA, les décrivant comme des « garde-fous standards dont nous parlons tout le temps ».

Les entretiens ont également porté sur les puces H200 de Nvidia.

Pékin n'a pas encore approuvé les expéditions de ces unités de traitement graphique.

Trump a confirmé que le sujet « a été abordé » lors des réunions et qu'il « pense que quelque chose pourrait se produire ».

Il a noté que la Chine n'a pas encore acheté le matériel car elle « a choisi de ne pas le faire » et souhaite plutôt « essayer de développer ses propres » options nationales.

Le porte-parole du ministère chinois des Affaires étrangères, Guo Jiakun, a déclaré vendredi que « la Chine a toujours préconisé que toutes les parties promeuvent conjointement le développement de l'intelligence artificielle dans une direction ouverte, inclusive, bénéfique et profitable à tous ».

Sur la question des puces Nvidia, il a déclaré que la Chine avait répété sa position sans donner de détails.

Pékin a précédemment déclaré qu'elle s'opposait fermement à l'abus des contrôles à l'exportation.