Un haut responsable de l'IA qualifie la conscience artificielle de « mauvaise question »
- Mustafa Suleyman, chef de l'IA de Microsoft, affirme que seuls les êtres biologiques peuvent être conscients et que les développeurs devraient cesser de poursuivre une IA apparemment consciente.
- Il met en garde contre les risques pour les personnes vulnérables et la création de divisions sociétales dangereuses autour des droits de l’IA.
- La Californie a adopté la loi SB 243, obligeant les chatbots à divulguer leur nature d’IA et à rappeler aux mineurs de faire des pauses toutes les trois heures.
Le responsable de l'intelligence artificielle chez Microsoft s'oppose aux efforts visant à créer des machines semblant conscientes, affirmant que seuls les êtres vivants peuvent véritablement ressentir la conscience.
Mustafa Suleyman a déclaré à CNBC lors d'une interview lors de la Conférence AfroTech à Houston cette semaine que les chercheurs devraient abandonner les travaux visant à construire des systèmes d'IA qui semblent conscients. Il a qualifié cette approche de totalement erronée.
« Je ne pense pas que ce soit un travail que les gens devraient faire », a déclaré Suleyman lors de la conférence où il a prononcé un discours principal. « Si vous posez la mauvaise question, vous obtenez la mauvaise réponse. Je pense que c'est totalement la mauvaise question. »
En tant que figure de proue de l'intelligence artificielle chez Microsoft, Suleyman est devenu un critique éminent des efforts pour développer des services d'IA qui pourraient amener les gens à croire que la technologie peut souffrir ou ressentir des émotions. L'année dernière, il a écrit « The Coming Wave », un livre examinant les dangers posés par l'IA et les technologies émergentes similaires. En août, il a publié un essai plaidant pour construire une IA pour aider les humains plutôt que pour les imiter.
La croissance du marché des compagnons IA suscite le débat
Cette conversation s'inscrit dans une course compétitive entre les entreprises technologiques pour créer des compagnons IA, y compris les offres de Meta et de xAI d'Elon Musk. La question devient de plus en plus complexe alors que le secteur de l'IA générative, dirigé par OpenAI de Sam Altman, poursuit l'intelligence artificielle générale, des systèmes capables de performances cognitives au niveau humain.
Altman a déclaré en août que l'intelligence artificielle générale n'est plus un terme particulièrement utile. Il a déclaré que les modèles s'amélioraient simplement rapidement et que les gens dépendraient d'eux pour de plus en plus de tâches.
Pour Suleyman, séparer les capacités croissantes de l'IA de toute possibilité de sentiments humains est profondément important.
« Notre expérience physique de la douleur est quelque chose qui nous rend très tristes et nous fait sentir terriblement mal, mais l’IA ne se sent pas triste lorsqu’elle subit une « douleur », a expliqué Suleyman. « C’est une distinction très, très importante. Il s’agit simplement de créer la perception, le récit apparent de l’expérience, de soi-même et de la conscience, mais ce n’est pas ce qu’elle vit réellement. Vous le savez techniquement parce que nous pouvons voir ce que fait le modèle. »
Il a fait référence au naturalisme biologique, une théorie du philosophe John Searle selon laquelle la conscience nécessite les processus biologiques d'un cerveau vivant.
« La raison pour laquelle nous accordons des droits aux gens aujourd'hui est que nous ne voulons pas leur faire de mal, car ils souffrent. Ils ont un réseau de la douleur et des préférences qui impliquent d'éviter la douleur », a déclaré Suleyman. « Ces modèles n'ont pas cela. Ce n'est qu'une simulation. »
Suleyman a reconnu que l'étude de la conscience reste une science en développement. Il n'a pas appelé à bloquer les autres de la recherche sur le sujet, reconnaissant que différentes organisations ont des objectifs différents. Cependant, il a souligné sa forte opposition au concept.
« Ils ne sont pas conscients », a-t-il dit. « Il serait donc absurde de poursuivre des recherches qui examinent cette question, car ils ne le sont pas et ne peuvent pas l'être. »
Microsoft emprunte une voie différente de celle des concurrents
Suleyman voyage pour parler publiquement des risques liés à la poursuite de la conscience de l'IA. Avant Houston, il est apparu au Sommet du Conseil International Paley en Californie la semaine dernière.
Là-bas, il a annoncé que Microsoft ne créerait pas de chatbots pour du contenu sexuel, contrairement à ses concurrents. Comme rapporté par Cryptopolitan, Altman a révélé en octobre que ChatGPT permet désormais aux utilisateurs adultes d'avoir des conversations sexuelles, tandis que xAI propose un compagnon anime provocateur.
« Vous pouvez essentiellement acheter ces services auprès d'autres entreprises, donc nous prenons des décisions concernant les endroits où nous n'irons pas », a déclaré Suleyman à nouveau lors d'AfroTech.
S'exprimant lors d'AfroTech, Suleyman a déclaré qu'il avait choisi Microsoft en partie en raison de son histoire, de sa stabilité et de sa large portée technologique. Le PDG Satya Nadella l'a personnellement recruté.
« L'autre chose à dire est que Microsoft devait être autosuffisant en IA », a-t-il déclaré. Nadella a lancé une mission il y a 18 mois pour s'assurer que l'entreprise pourrait entraîner ses propres modèles entièrement en interne en utilisant ses propres données.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Noor Bazmi
Noor Bazmi contribue à l'équipe d'actualités de Cryptopolitan, dotée d'un diplôme en études médiatiques. Noor couvre les actualités liées à la blockchain, aux cryptomonnaies, à l'intelligence artificielle, aux grandes entreprises technologiques, aux marchés des véhicules électriques, à l'économie mondiale et aux changements de politique gouvernementale. Elle poursuit actuellement des études en marketing pour mieux connecter avec les audiences mondiales.
