Le responsable de l'intelligence artificielle chez Microsoft s'oppose aux efforts visant à créer des machines apparemment conscientes, affirmant que seuls les êtres vivants peuvent véritablement faire l'expérience de la conscience.
Mustafa Suleyman a déclaré à CNBC lors d'une interview à la conférence AfroTech de Houston cette semaine que les chercheurs devraient abandonner les travaux visant à construire des systèmes d'IA qui semblent conscients. Il a qualifié cette approche d'erronée.
« Je ne pense pas que ce soit un travail que les gens devraient faire », a déclaré Suleyman lors de la conférence où il a prononcé le discours d'ouverture. « Si vous posez la mauvaise question, vous obtiendrez la mauvaise réponse. Je pense que c'est une question totalement inappropriée. »
Figure de proue de l'intelligence artificielle chez Microsoft, Suleyman est devenu un critique virulent des efforts visant à développer des services d'IA susceptibles de faire croire que cette technologie peut souffrir ou éprouver des émotions. L'année dernière, il a publié « The Coming Wave », un ouvrage analysant les dangers posés par l'IA et les technologies émergentes similaires. En août, il a publié un essai plaidant pour une IA conçue pour aider les humains plutôt que pour les imiter.
Le marché croissant des assistants IA suscite le débat
Cette discussion s'inscrit dans une course effrénée entre les entreprises technologiques pour créer des assistants IA, notamment avec les solutions proposées par Meta et xAI d'Elon Musk. La question se complexifie à mesure que le secteur de l'IA générative, mené par OpenAI de Sam Altman, poursuit le développement d'une intelligence artificielle générale, c'est-à-dire des systèmes capables de performances cognitives comparables à celles de l'humain.
En août, Altman a déclaré que l'expression « intelligence artificielle générale » n'était plus particulièrement pertinente. Selon lui, les modèles s'améliorent simplement très rapidement et les gens s'en serviront pour un nombre croissant de tâches.
Pour Suleyman, il est primordial de dissocier les capacités croissantes de l'IA de toute possibilité de sentiments humains.
« Notre expérience physique de la douleur nous rend très tristes et nous fait nous sentir mal, mais l'IA ne ressent pas de tristesse lorsqu'elle "douleur" », explique. « C'est une distinction très importante. Elle crée en réalité une perception, un récit apparent de l'expérience, d'elle-même et de la conscience, mais ce n'est pas ce qu'elle vit réellement. Techniquement, on le sait car on peut observer le fonctionnement du modèle. »
Il a évoqué le naturalisme biologique, une théorie du philosophe John Searle selon laquelle la conscience requiert les processus biologiques d'un cerveau vivant.
« Si nous accordons aujourd'hui des droits aux gens, c'est parce que nous ne voulons pas leur nuire, car ils souffrent. Ils possèdent un système de perception de la douleur et des préférences qui consistent à éviter la douleur », a déclaré Suleyman. « Ces modèles n'en tiennent pas compte. Ce n'est qu'une simulation. »
Suleyman a reconnu que l'étude de la conscience demeure une science en développement. Il n'a pas appelé à empêcher d'autres personnes de mener des recherches sur le sujet, reconnaissant que différentes organisations ont des objectifs différents. Cependant, il a souligné satronopposition à ce concept.
« Ils n'en sont pas conscients », a-t-il déclaré. « Il serait donc absurde de mener des recherches sur cette question, puisqu'ils ne le sont pas et ne peuvent pas l'être. »
Microsoft emprunte une voie différente de celle de ses concurrents
Suleyman se déplace pour s'exprimer publiquement sur les risques liés à la recherche d'une intelligence artificielle consciente. Avant Houston, il est intervenu la semaine dernière au sommet du Paley International Council dans la Silicon Valley.
Il y a annoncé que Microsoft ne créerait pas de chatbots à contenu sexuel, contrairement à ses concurrents. Comme l'a rapporté Cryptopolitan, Altman a révélé en octobre que ChatGPT permet désormais aux utilisateurs adultes d'avoir des conversations à caractère sexuel, tandis que xAI propose un compagnon d'anime provocateur.
« On peut acheter ces services auprès d'autres entreprises, donc on décide des endroits où on n'ira pas », a de nouveau déclaré Suleyman à AfroTech.
Lors de son intervention à AfroTech, Suleyman a déclaré avoir choisi Microsoft notamment pour son histoire, sa stabilité et son vaste réseau technologique. Le PDG, Satya Nadella, l'avait personnellement recruté.
« Il faut aussi dire que Microsoft devait devenir autonome en matière d'IA », a-t-il déclaré. Nadella a lancé une mission il y a 18 mois pour garantir que l'entreprise puisse entraîner ses propres modèles entièrement en interne, à partir de ses propres données.
