Les meilleures analyses crypto directement dans votre boîte mail.
Les autorités fédérales nomment un « spéculateur de l'IA » parmi les cinq nouveaux membres de l'Institut de sécurité de l'IA
- Le département du Commerce américain a nommé cinq nouveaux membres à son Institut américain de sécurité de l'IA.
- L'un des membres est connu pour être un pessimiste invétéré en matière d'IA, mais il a également à son actif de nombreuses réalisations.
- L'équipe travaillera sur des objets d'IA liés aux normes de développement technologique et à la sécurité nationale.
L'Institut américain de sécurité de l'IA, rattaché au département du Commerce, a annoncé la nomination de cinq nouveaux membres à son équipe dirigeante. Parmi eux, l'un a prédit qu'il y a 50 % de chances que le développement de l'intelligence artificielle finisse par anéantir l'humanité. Mais ce n'est pas son seul fait d'armes ; il compte à son actif des innovations majeures.
Nouveaux membres de l'équipe de sécurité de l'IA
On entend depuis un certain temps déjà affirmer que l'intelligence artificielle deviendra une menace existentielle pour l'humanité, mais de nombreux experts estiment que cette crainte est exagérée et surestimée, et que ce type de prédiction pourrait freiner les progrès dans ce domaine. La mission de la nouvelle équipe est d'encourager un développement de l'IA qui soit bénéfique à l'humanité, en s'opposant à la perception négative qui prévaut au sein du National Institute of Standards and Technology (NIST).
Laurie E. Locascio, directrice du NIST et sous-secrétaire au Commerce chargée des normes et de la technologie, a déclaré :
« Je suis ravi d'accueillir ces experts de talent au sein de l'équipe dirigeante de l'Institut américain de sécurité de l'IA. Leur contribution permettra d'établir les normes scientifiques de mesure qui soutiendront le développement d'une IA sûre et fiable. Chacun apporte une expérience unique qui aidera l'institut à bâtir des fondements solides pour la sécurité de l'IA à l'avenir. »
Parmi les nouveaux membres figure Adam Russell, directeur de la stratégie, qui dirige également la division IA de l'Institut des sciences de l'information de l'Université de Californie. Le professeur Rob Reich, de Stanford, sera le conseiller principal. Il est directeur adjoint de l'Institut pour l'IA centrée sur l'humain et expert en sciences politiques.
Mara Quintero Campbell est nommée directrice générale adjointe des opérations et chef de cabinet. Elle travaille actuellement à l'Administration du développement économique du département du Commerce. Mark Latonero sera responsable de la coopération internationale. Il est actuellement directeur adjoint du Bureau de l'initiative nationale en intelligence artificielle au sein du Bureau de la politique scientifique et technologique de la Maison-Blanche.
Un pessimiste de l'IA à bord — mais il y a plus encore
Le nouveau membre surnommé « spéculateur de l'IA » n'est autre que Paul Christiano. Il est nommé responsable de la sécurité de l'IA au sein de l'équipe. Ancien chercheur chez OpenAI et fondateur du Centre de recherche Alignment, il est également l'inventeur d'une technique fondamentale de sécurité de l'IA appelée apprentissage par renforcement, qui intègre le retour d'information humain. Il a été qualifié de « spéculateur de l'IA » après avoir été interrogé, lors d'un podcast, sur la possibilité que les ambitions humaines en matière d'IA aboutissent à une catastrophe. Il a alors exprimé une vive inquiétude quant à un avenir sombre pour l'humanité.
« Je pense qu’il y a peut-être 10 à 20 % de chances que l’IA prenne le contrôle, que la plupart des humains disparaissent, je prends ça très au sérieux. »
Il a également déclaré :
« Au final, on pourrait s'approcher d'une probabilité de catastrophe de 50/50 peu après l'avènement de systèmes d'IA de niveau humain. »
Source : Podcast Bankless.
Christiano a exprimé ces réflexions lors du podcast Bankless avec les animateurs David Hoffman et Ryan Sean Adams, mais il insiste sur le fait que ses opinions ne sont pas aussi extrêmes que celles du célèbre Cassandre de l'IA, Eliezer Yudkowsky, qui évoque un scénario apocalyptique total.
La secrétaire américaine au Commerce, Gina Raimondo, a également déclaré que pour préserver le leadership mondial en matière d'IA responsable, garantir la sécurité de l'IA et atténuer les risques qui y sont associés, nous avons besoin des meilleurs talents du pays, raison pour laquelle ces personnes, les meilleures dans leurs domaines, ont été sélectionnées pour rejoindre l'équipe de direction de l' Institut américain de sécurité de l'IA.
Les plus grands experts en cryptomonnaies lisent déjà notre newsletter. Envie d'en faire partie ? Rejoignez-les !
Avertissement : Les informations fournies ne constituent pas un conseil en investissement. Cryptopolitandécline toute responsabilité quant aux investissements réalisés sur la base des informations présentées sur cette page. Nous voustronrecommandons vivement d’effectuer vosdent et/ou de consulter un professionnel qualifié avant toute décision d’investissement.
Aamir Sheikh
Aamir est un journaliste spécialisé dans les technologies, fort de près de six ans d'expérience dans les secteurs des cryptomonnaies et des technologies. Diplômé de l'université MAJ avec un MBA en finance et marketing, il travaille actuellement pour Cryptopolitan, où il couvre l'actualité des marchés des cryptomonnaies et propose des prévisions de prix.
- Quelles cryptomonnaies peuvent vous faire gagner de l'argent ?
- Comment renforcer la sécurité de votre portefeuille (et lesquels valent vraiment la peine d'être utilisés)
- Stratégies d'investissement peu connues utilisées par les professionnels
- Comment débuter en investissement crypto (quelles plateformes d'échange utiliser, quelles cryptomonnaies acheter, etc.)