Les fédéraux installent un « doomer de l’IA » à l’Institut pour la sécurité de l’IA parmi cinq nouveaux membres
- Le département du Commerce des États-Unis a nommé cinq nouveaux membres à son Institut américain de la sécurité de l'IA.
- L'un des membres est connu pour être un « doomer de l'IA », mais il possède également un parcours remarquable.
- L'équipe travaillera sur les objets liés à l'IA concernant les normes de développement technologique et la sécurité nationale.
L’Institut américain pour la sécurité de l’IA, sous l’égide du Département du Commerce, a annoncé cinq nouveaux membres pour son équipe de direction. Parmi ces cinq nouveaux membres se trouve celui qui a prédit qu’il y avait 50 % de chances que le développement de l’intelligence artificielle conduise à la fin de l’humanité. Mais ce n’est pas sa seule introduction ; il y a quelques innovations très importantes à son actif.
Nouveaux membres de l’équipe de sécurité de l’IA
Il y a eu un débat pendant un certain temps sur le fait que l’intelligence artificielle deviendrait une menace existentielle pour les humains, mais de nombreux experts disent que c’est exagéré et surmédiatisé, et que ce type de prédiction pourrait entraver les avancées dans le domaine. La tâche à accomplir pour l’équipe nouvellement nommée est d’encourager le développement de manière à ce que l’IA devienne bénéfique pour les personnes, contre cette perception de préjudice sous l’Institut national des normes et de la technologie (NIST).
Laurie E. Locascio, directrice du NIST et sous-secrétaire au Commerce pour les normes et la technologie, a déclaré :
« Je suis très heureux d’accueillir ces experts talentueux au sein de l’équipe de direction de l’Institut américain pour la sécurité de l’IA afin d’aider à établir les sciences de la mesure qui soutiendront le développement d’une IA sûre et digne de confiance. Chacun apporte des expériences uniques qui aideront l’institut à bâtir une base solide pour la sécurité de l’IA à l’avenir. »
Parmi les nouveaux membres figure Adam Russell, directeur de la vision, qui est également directeur de la division IA de l’Information Sciences Institute de l’Université de Californie. Le professeur Rob Reich sera le conseiller principal ; il vient de Stanford et travaille en tant que directeur adjoint de l’Institut pour l’IA centrée sur l’humain, et est également un expert en sciences politiques.
Mara Quintero Campbell est nommée directrice des opérations et cheffe de cabinet ; elle est actuellement à l’Administration du développement économique du Commerce en tant que directrice adjointe des opérations. Mark Latonero sera responsable de l’engagement international ; il vient du Bureau de la politique scientifique et technologique de la Maison-Blanche et travaille en tant que directeur adjoint du Bureau de l’initiative nationale sur l’IA.
Un doomer de l’IA à bord – mais il y a plus à dire
Le nouveau membre surnommé doomer de l’IA n’est autre que Paul Christiano. Il est nommé responsable de la sécurité de l’IA de l’équipe. Il est un ancien chercheur chez OpenAI et fondateur de l’Alignment Research Center. Il est également l’inventeur d’une technique fondamentale de sécurité de l’IA connue sous le nom d’apprentissage par renforcement, qui intègre les retours humains. Il a obtenu son étiquette de doomer de l’IA après avoir été interrogé sur un podcast sur les chances que les ambitions humaines en matière d’IA se soldent par un désastre, auquel il a montré une préoccupation assez forte quant au fait que l’humanité soit vouée à l’échec, a-t-il dit
« Je pense qu’il y a peut-être environ 10 à 20 % de chances qu’une prise de pouvoir par l’IA se produise, avec la mort de la plupart des humains. Je le prends très au sérieux. »
Il a également déclaré :
« Dans l’ensemble, peut-être que vous obtenez jusqu’à 50/50 de chances de désastre peu de temps après avoir des systèmes d’IA de niveau humain. »
Source : podcast Bankless.
Christiano a exprimé ces pensées lors du podcast Bankless avec les hôtes David Hoffman et Ryan Sean Adams, mais il insiste sur le fait que ses points de vue ne sont pas aussi extrêmes que ceux du célèbre doomer de l’IA Eliezer Yudkowsky, qui suggère un scénario de désastre total.
La secrétaire américaine au Commerce, Gina Raimondo, a également déclaré que afin de préserver le leadership mondial en matière d’IA responsable et de garantir la sécurité de l’IA et d’atténuer les risques qui y sont associés, nous avons besoin des meilleurs talents de la nation, c’est pourquoi ces individus, qui sont les meilleurs dans leur domaine, sont sélectionnés pour rejoindre l’équipe de direction exécutive de l’Institut américain pour la sécurité de l’IA.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement : Les informations fournies ne constituent pas des conseils de trading. Cryptopolitan.com décline toute responsabilité quant aux investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener des recherches indépendantes et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Aamir Sheikh
Aamir est journaliste technologique avec près de six ans d'expérience dans les secteurs de la cryptomonnaie et de la technologie. Il est diplômé de l'université MAJ avec un MBA en finance et marketing. Il travaille désormais pour Cryptopolitan, où il rend compte des dernières évolutions des marchés de la cryptomonnaie et des prévisions de prix.
