Le visionnaire met en garde contre les périls de l'IA

Ilya Sutskever, une figure prominente dans le monde de l'intelligence artificielle, fait récemment la une des journaux pour son approche prudente envers le développement de l'IA, en particulier en contraste avec la prise de risque de Sam Altman, PDG de OpenAI.

Cette dichotomie de points de vue a déclenché un remaniement significatif de la direction de l'organisation. Dans cet article, nous plongeons dans le parcours, la carrière et les facteurs alimentant le scepticisme d'Ilya Sutskever envers l'IA.

Né en Russie soviétique en 1986 et élevé à Jérusalem dès l'âge de 5 ans, le parcours académique d'Ilya Sutskever l'a conduit à l'Université de Toronto. Là-bas, il a obtenu une licence en mathématiques en 2005, suivie d'un master en informatique en 2007. 

Il a poursuivi sa quête de connaissances et a obtenu un doctorat en informatique en 2013. Les premiers travaux de Sutskever à l'Université de Toronto étaient marqués par des logiciels expérimentaux générant des entrées Wikipedia sans sens.

La carrière de Sutskever a pris un tournant significatif en 2012 lorsqu'il a co-écrit un article révolutionnaire avec Alex Krizhevsky et Geoffrey Hinton, son directeur de thèse, souvent surnommé le « parrain de l'IA ». Cette collaboration a conduit à la création d'AlexNet, un algorithme d'apprentissage profond qui a démontré des capacités de reconnaissance de motifs sans précédent. Ce projet, nommé AlexNet, a montré le potentiel immense de l'apprentissage profond pour résoudre les problèmes de reconnaissance de motifs.

Transition vers Google et contributions

Impressionnés par leur travail pionnier, Google a rapidement recruté Sutskever et ses collègues chercheurs. Chez Google, Sutskever a continué à repousser les limites de l'IA. Il a étendu les capacités de reconnaissance de motifs d'AlexNet des images aux mots et aux phrases, montrant la polyvalence de cette technologie. De plus, il a joué un rôle pivotal dans le développement de TensorFlow, une plateforme open-source avancée pour l'apprentissage automatique.

En moins de trois ans chez Google, Ilya Sutskever a été séduit par Elon Musk, PDG de Tesla, pour cofonder et servir de scientifique en chef chez OpenAI, une entreprise d'IA à but non lucratif. Musk, cofondateur d'OpenAI, partageait les préoccupations de Sutskever concernant les dangers potentiels de l'IA. Le départ de Musk d'OpenAI en 2018, invoitant un conflit d'intérêts avec Tesla, a laissé Sutskever à la tête de l'organisation.

Prudence croissante concernant la sécurité de l'IA

Pendant son mandat chez OpenAI, Sutskever est devenu de plus en plus concentré sur la sécurité de l'IA. Il a plaidé pour allouer plus de ressources au sein de l'entreprise pour adresser les risques associés aux systèmes d'IA. Notamment, il a dirigé l'équipe Superalignment d'OpenAI, qui a consacré 20 % de la puissance de calcul à la gestion des risques liés à l'IA.

L'affrontement entre l'approche prudente de Sutskever et le désir de Sam Altman pour un développement rapide de l'IA a atteint son paroxysme au sein de la direction d'OpenAI. Sutskever et des membres du conseil d'administration partageant ses idées ont orchestré le renvoi d'Altman, le remplaçant temporairement par Emmett Shear, qui partageait une position plus prudente. Cependant, cette décision a été de courte durée, car Sutskever a plus tard exprimé des regrets pour son rôle dans les événements, conduisant à la réintégration d'Altman en tant que PDG.

Le scepticisme d'Ilya Sutskever concernant la sécurité de l'IA est profondément enraciné dans sa croyance en les dangers potentiels d'un développement d'IA sans contrôle. Il a exprimé des préoccupations concernant le déploiement rapide de modèles d'IA puissants, tels que ChatGPT, et la nécessité de mesures de sécurité robustes. 

Le dévouement de Sutskever à garantir un développement responsable de l'IA est évident dans ses déclarations aux employés d'OpenAI, où il a souligné l'importance de ressentir l'impact de l'IAG (Intelligence Artificielle Générale) dans la vie quotidienne.

Optimisme et cynisme équilibrés

Les points de vue de Sutskever sur l'IA sont caractérisés par un équilibre unique d'optimisme et de cynisme. Il envisage l'IA comme une solution à de nombreux problèmes actuels de l'humanité, y compris le chômage, les maladies et la pauvreté. Cependant, il reconnaît les inconvénients potentiels, mettant en garde contre des problèmes tels que la prolifération des fausses nouvelles, les cyberattaques extrêmes et le développement d'armes IA entièrement automatisées. Ses préoccupations s'étendent à la gouvernance de l'IAG, soulignant l'importance d'une programmation correcte pour prévenir des résultats indésirables.

Contrairement à certaines vues extrêmes au sein de la communauté IA qui prévoient des scénarios catastrophiques, Sutskever adopte une perspective plus modérée. Il compare la relation entre les humains et les IAG à la manière dont les humains interagissent avec les animaux. Bien que les humains aient de l'affection pour les animaux, ils ne demandent pas la permission aux animaux lors de la construction d'infrastructures comme les autoroutes. De même, Sutskever suggère que les humains pourraient prioriser leurs propres besoins en ce qui concerne les IAG.