Von der Leyen de l'UE soutient un ralentissement de l'IA, convoquera les laboratoires de pointe pour des discussions sur la sécurité

La présidente de la Commission européenne, Ursula von der Leyen, prévoit d'inviter les principales entreprises d'intelligence artificielle à Bruxelles pour des discussions sur le ralentissement du rythme de développement de l'IA, alors que les préoccupations grandissent parmi les dirigeants technologiques selon lesquels les modèles les plus puissants évoluent plus rapidement qu'ils ne peuvent être efficacement contrôlés.

Prenant la parole lors de son discours annuel sur l'État de l'Union européenne à Strasbourg, von der Leyen a déclaré que l'Europe était prête à aider l'industrie de l'IA à ralentir le rythme du développement. Elle a déclaré aux députés européens qu'elle prévoyait d'inviter les principaux laboratoires d'IA de pointe à discuter de la manière dont les régulateurs pourraient soutenir les efforts pour « rythmer la pointe », selon Politico.

Von der Leyen a parlé très franchement des risques posés par les systèmes d'IA de plus en plus performants, et a déclaré que les dangers des modèles s'améliorant eux-mêmes devenaient « de plus en plus évidents ».

La présidente a également pointé du doigt les avertissements des leaders de l'industrie de l'IA lors de son discours, indiquant que les dirigeants développant la technologie pensent que la poussée vers des systèmes auto-récursifs devrait être ralentie, et c'est une raison suffisante pour que les régulateurs prennent ces préoccupations au sérieux.

Les PDG de la technologie émettent des avertissements

Les commentaires de von der Leyen font suite aux préoccupations croissantes de certaines des figures les plus importantes de l'industrie. Le PDG d'Anthropic, Dario Amodei, a récemment appelé les développeurs d'IA à ralentir la poussée vers des modèles de plus en plus performants pour des raisons de sécurité. Elon Musk de xAI et Sam Altman d'OpenAI ont tous deux soutenu cet appel par la suite.

Cependant, l'industrie de l'IA reste divisée sur la question de savoir si le développement devrait ralentir. Le PDG de Nvidia, Jensen Huang, et le PDG de Meta, Mark Zuckerberg, ont tous deux fait obstacle aux appels au ralentissement.

« Chaque laboratoire a la responsabilité et l'incitation à avancer au rythme requis pour entraîner ses modèles en toute sécurité, et la capacité de prendre ses propres mesures pour s'assurer que cela se produise », a déclaré Zuckerberg. Le PDG a fait valoir que la menace de responsabilité donne déjà aux développeurs d'IA suffisamment d'incitation à empêcher la diffusion de systèmes nuisibles au grand public.

Le débat sur la sécurité de l'IA présente également une division politique de part et d'autre de l'Atlantique. La position de von der Leyen contraste avec celle du président américain Donald Trump, qui a rejeté les préoccupations concernant la sécurité de l'IA.

Bruxelles détient-elle des atouts ?

L'UE dispose déjà de règles contraignantes en matière d'IA, son AI Act donnant aux régulateurs le pouvoir d'arrêter les modèles jugés dangereux et permettant à des évaluateurs indépendants de tester les systèmes avancés.

Von der Leyen a décrit la loi AI Act comme « cruciale », et a affirmé qu'elle confère à l'Europe un rôle important dans la façon dont l'approche mondiale de l'IA est façonnée.

Elle a également appelé à un niveau accru de coopération transfrontalière concernant les tests et l'évaluation des modèles d'IA de pointe, et a mentionné des projets d'étendre l'invitation au Canada et au Royaume-Uni. Cependant, les États-Unis et la Chine n'étaient pas inclus dans son discours, et ces nations restent les deux acteurs principaux de la course à l'IA.

Les intérêts de l'UE en matière d'IA

Au lieu d'essayer de mener la course à l'IA au niveau de la pointe, l'Europe devrait se concentrer sur la capture de la valeur économique de la technologie, a déclaré von der Leyen. Elle a identifié cinq domaines prioritaires, qui comprenaient la santé, les transports, l'agroalimentaire, la fabrication avancée, et la défense et l'espace.

Le discours a également abordé l'utilisation des réseaux sociaux par les enfants, la présidente de la Commission européenne proposant une interdiction d'accès aux réseaux sociaux pour les enfants de moins de 13 ans et des comptes personnels pour ceux de moins de 15 ans. Les plateformes devraient également être tenues de démontrer que leurs services sont sûrs pour les mineurs.

On s'attend à ce que Von der Leyen fournisse plus de détails sur les mesures jeudi.