Ilya Sutskever, une figure importante du monde de l'intelligence artificielle, a récemment fait la une des journaux pour son approche prudente du développement de l'IA, notamment par rapport à la prise de risques de Sam Altman, PDG d' OpenAI .
Cette divergence de points de vue a entraîné un remaniement important au sein de la direction de l'organisation. Cet article explore le parcours d'Ilya Sutskever, sa carrière et les facteurs qui alimentent son scepticisme à l'égard de l'IA.
Né en 1986 en Russie soviétique et ayant grandi à Jérusalem à partir de l'âge de 5 ans, Ilya Sutskever a poursuivi ses études à l'Université de Toronto. Il y a obtenu une licence enmaticen 2005, puis une maîtrise en informatique en 2007.
Il a poursuivi ses recherches et obtenu un doctorat en informatique en 2013. Les premiers travaux de Sutskever à l'Université de Toronto ont été marqués par un logiciel expérimental qui générait des entrées absurdes, semblables à celles de Wikipédia.
La carrière de Sutskever a pris un tournant décisif en 2012 lorsqu'il a co-signé un article novateur avec Alex Krizhevsky et Geoffrey Hinton, son directeur de thèse, souvent considéré comme le « père de l'intelligence artificielle ». Cette collaboration a abouti à la création d'AlexNet, un algorithme d'apprentissage profond aux capacités de reconnaissance de formes sansdent. Ce projet, baptisé AlexNet, a mis en lumière l'immense potentiel de l'apprentissage profond pour la résolution des problèmes de reconnaissance de formes.
Transition vers Google et contributions
Impressionné par leurs travaux novateurs, Google a rapidement recruté Sutskever et ses collègues chercheurs. Chez Google, Sutskever a continué de repousser les limites de l'IA. Il a étendu les capacités de reconnaissance de formes d'AlexNet des images aux mots et aux phrases, démontrant ainsi la polyvalence de cette technologie. De plus, il a joué un rôle déterminant dans le développement de TensorFlow, une plateforme open source avancée pour l'apprentissage automatique.
En moins de trois ans chez Google, Ilya Sutskever a été débauché par Elon Musk, PDG de Tesla, pour cofonder OpenAI, une organisation à but non lucratif spécialisée dans l'intelligence artificielle, et en devenir le directeur scientifique. Musk, cofondateur d'OpenAI, partageait les inquiétudes de Sutskever quant aux dangers potentiels de l'IA. Son départ d'OpenAI en 2018, pour cause de conflit d'intérêts avec Tesla, a placé Sutskever à la tête de l'organisation.
Inquiétudes croissantes concernant la sécurité de l'IA
Durant son passage chez OpenAI, Sutskever s'est de plus en plus intéressé à la sécurité de l'IA. Il a plaidé pour que l'entreprise consacre davantage de ressources à la gestion des risques liés aux systèmes d'IA. Il a notamment dirigé l'équipe Superalignment d'OpenAI, qui a dédié 20 % de sa puissance de calcul à la gestion de ces risques.
Le conflit entre l'approche prudente de Sutskever et la volonté de Sam Altman d'accélérer le développement de l'IA a atteint son paroxysme au sein de la direction d'OpenAI. Sutskever et des membres du conseil d'administration partageant ses idées ont orchestré l'éviction d'Altman, le remplaçant temporairement par Emmett Shear, dont la position était plus prudente. Cependant, cette décision fut de courte durée, car Sutskever a par la suite exprimé des regrets quant à son rôle dans ces événements, ce qui a permis à Altman d'être réintégré à son poste de PDG.
Le scepticisme d'Ilya Sutskever quant à la sécurité de l'IA repose sur sa conviction des dangers potentiels d'un développement incontrôlé de cette technologie. Il a exprimé ses inquiétudes concernant le déploiement rapide de modèles d'IA puissants, tels que ChatGPT, et la nécessité de mettre en place des mesures de sécurité robustes.
L'engagement de Sutskever en faveur d'un développement responsable de l'IA transparaîtdent dans ses déclarations aux employés d'OpenAI, où il a souligné l'importance de ressentir l'impact de l'AGI (Intelligence Artificielle Générale) dans la vie quotidienne.
Optimisme et cynisme équilibrés
Les opinions de Sutskever sur l'IA se caractérisent par un équilibre singulier entre optimisme et cynisme. Il envisage l'IA comme une solution à de nombreux problèmes actuels de l'humanité, tels que le chômage, les maladies et la pauvreté. Cependant, il reconnaît les risques potentiels, mettant en garde contre des problèmes comme la prolifération de fausses informations, les cyberattaques extrêmes et le développement d'armes entièrement automatisées par l'IA. Ses préoccupations s'étendent à la gouvernance de l'IA générale, soulignant l'importance d'une programmation correcte pour prévenir les conséquences indésirables.
Contrairement à certaines opinions extrêmes au sein de la communauté de l'IA qui prévoient des scénarios catastrophiques, Sutskever adopte une perspective plus modérée. Il compare la relation entre les humains et les IAG à celle qui existe entre les humains et les animaux. Bien que les humains éprouvent de l'affection pour les animaux, ils ne sollicitent pas leur autorisation pour la construction d'infrastructures telles que les autoroutes. De même, Sutskever suggère que les humains pourraient privilégier leurs propres besoins face aux IAG.
