Le patron de l'IA de Microsoft promet un arrêt du développement si la technologie présente un risque existentiel

Mustafa Suleyman, chef de l'intelligence artificielle grand public chez Microsoft, déclare qu'il mettra fin immédiatement au développement si une IA avancée menace un jour la sécurité humaine.

S'exprimant lors de l'émission The Mishal Husain Show de Bloomberg, Mustafa a juré que la priorité de Microsoft est de construire une superintelligence alignée sur les intérêts humains, et non de courir après la puissance brute à tout prix.

« Nous ne continuerons pas à développer un système susceptible de nous échapper », a déclaré Mustafa lors de l'entretien. Il a ajouté que cette position ne devrait pas être controversée, la qualifiant d'évidente, même s'il estime qu'elle reste rare dans l'industrie de l'IA.

Microsoft retrouve sa liberté de construire des systèmes d'IA avancés

Mustafa a rejoint Microsoft début de l'année dernière, après que la société ait acquis la propriété intellectuelle et une grande partie de l'équipe derrière son startup, Inflection AI, en renonçant à OpenAI pour des outils d'intelligence artificielle destinés aux consommateurs.

Après cette acquisition, Mustafa a été chargé de développer des produits capables de rivaliser directement avec les modèles les plus puissants déjà présents sur le marché.

Pendant une grande partie de cette période, son travail était soumis à des limites. Les termes contractuels liés au partenariat de Microsoft avec OpenAI empêchaient la société de développer une intelligence artificielle générale, définie comme des systèmes capables d'atteindre un niveau humain, ainsi qu'une superintelligence, qui surpasserait les capacités humaines.

Mustafa a déclaré que Microsoft avait renoncé à ces droits en échange de l'accès aux derniers modèles d'OpenAI. Cet accord impliquait également que Microsoft construise et équipe des centres de données pour OpenAI sur plusieurs années.

Cette structure a changé en octobre. Un nouvel accord a remodelé la relation et rendu les droits de développement à Microsoft.

Mustafa a indiqué qu'OpenAI dispose désormais d'accords d'infrastructure avec d'autres partenaires, notamment SoftBank et Oracle, afin de construire davantage de centres de données que Microsoft n'était prêt à s'engager à bâtir. « Ils ont maintenant des accords avec SoftBank et de nombreux autres – Oracle – pour construire plus de centres de données que Microsoft ne souhaitait en construire pour eux », a-t-il déclaré. « Et donc, en retour, nous avons alors le droit de développer notre propre IA. »

Il a déclaré que Microsoft est resté un développeur d'IA à usage général au cours des 18 derniers mois, mais qu'il s'oriente désormais vers des travaux susceptibles de dépasser les performances humaines sur diverses tâches.

« Nous avons toujours été une entreprise de développement d’IA à usage général au cours des 18 derniers mois, mais maintenant nous pouvons travailler sur certaines techniques et méthodologies qui ont le potentiel de dépasser les performances humaines sur toutes les tâches », a déclaré Mustafa . « Et c’est donc un changement pour nous. »

Suleyman expose une approche prudente alors que les outils restent inachevés

Le mois dernier, Mustafa avait officiellement annoncé l'effort consacré à la superintelligence dans un article de blog exposant la position de Microsoft selon laquelle ces systèmes doivent être conçus pour servir les personnes. D'autres acteurs majeurs, notamment OpenAI et Anthropic PBC, font souvent des affirmations similaires concernant la sécurité et le bénéfice humain.

« Chacun doit décider de ce en quoi il croit et de la manière dont il opère, et je ne veux pas juger de leur fonctionnement actuel », a-t-il déclaré. « Je ne vois aucune preuve de dommages massifs à grande échelle. »

Malgré l'accent mis à long terme sur la superintelligence, Mustafa a indiqué que le débat actuel reste académique.

Les consommateurs attendent des assistants capables de gérer des tâches comme la réservation de billets ou l'organisation de plans d'achat. Les dirigeants attendent des gains de productivité. Aucun des deux groupes n'a encore atteint cet objectif.

Mustafa a cité l'assistant grand public Copilot de Microsoft comme preuve. Il a déclaré que ses fonctionnalités de type agent sont toujours en cours de test et ne se comportent pas toujours comme prévu.

« Nous expérimentons encore avec cela », a déclaré Mustafa. « Mais lorsqu'il fonctionne, c'est la chose la plus magique que vous ayez jamais vue. »