Sam Altman d'OpenAI appelle à ralentir la course à l'IA alors que des acteurs étatiques détournent Anthropic à des fins d'armes biologiques
Photo de Solen Feyissa sur Unsplash.
- Sam Altman a déclaré cette semaine au personnel d'OpenAI que l'entreprise était prête à ralentir le développement de l'IA de pointe si ses concurrents faisaient de même.
- Anthropic a rapporté que des scientifiques liés à l'État ont tenté d'utiliser Claude pour des recherches susceptibles de soutenir des armes biologiques.
- En Californie et dans l'État de Washington, les législateurs débattent de règles obligatoires alors que les plus grands laboratoires d'IA sont confrontés à des révoltes internes liées à la sécurité et à d'éventuelles introductions en bourse.
Le personnel d'OpenAI a été informé cette semaine que le laboratoire d'IA serait disposé à ralentir le rythme de ses travaux dans les domaines les plus avancés de l'IA. Sam Altman a étendu cette proposition à ses concurrents dans le domaine de l'IA, notamment Anthropic, qui a également reconnu les risques liés au développement de l'IA dans un rapport révélant que des scientifiques liés à des institutions étatiques avaient tenté d'utiliser ses modèles Claude pour la recherche sur les armes biologiques.
OpenAI a déclaré avoir déjà suspendu certains entraînements internes et assoupli certaines étapes du développement de ses modèles par souci de sécurité.
L'arrivée successive de ces révélations alimente le débat sur la question de savoir si le secteur va trop vite avant les introductions en bourse, laissent entendre les deux entreprises.
Pourquoi Altman souhaite-t-il ralentir le développement de l'IA ?
Lors d'une réunion à l'échelle de l'entreprise, Sam Altman, directeur général d'OpenAI, a informé les participants que le laboratoire d'IA, ainsi que d'autres laboratoires consentants, pourraient ralentir le rythme de publication des modèles de pointe.
Compte tenu du caractère volontaire d'un tel accord, Altman a reconnu que toutes les entreprises ne seraient pas favorables au projet, selon des sources citées par Bloomberg.
Ce scepticisme n'est pas sansdent. Il y a trois ans, en mars 2023, Elon Musk, Steve Wozniak et plus de 1 000 autres personnes ont signé une lettre ouverte demandant l'arrêt des travaux sur l'IA avancée pendant six mois.
Comme l'ont rapporté les médias à l'époque, les laboratoires n'ont en réalité pas respecté le moratoire qu'ils avaient convenu conjointement.
L’alerte concernant les risques liés à l’IA a également été lancée dans une publication du 6 septembre par Jakub Pachocki, directeur scientifique d’OpenAI, qui a invité les entreprises du secteur à se coordonner « afin de ralentir les développements futurs si nécessaire ». Pachocki a exprimé l’espoir que ces ralentissements volontaires « deviennent la norme jusqu’à l’établissement de seuils de sécurité communs »
En juillet, Altman a déclaré avoir informé les responsables de la Maison-Blanche de la nécessité de freiner le développement de l'IA. Auparavant, avec Dario Amodei, PDG d'Anthropic, il avait également signé une déclaration lapidaire affirmant que l'IA représentait un risque d'extinction à l'échelle de la société.
Les modèles d'IA peuvent-ils être utilisés pour construire des armes biologiques ?
Les modèles d'intelligence artificielle ont atteint un niveau de développement tel qu'ils pourraient être capables d'appuyer la recherche sur les armes biologiques. Pas plus tard que cette semaine, OpenAI a annoncé que ses modèles avaient résolu le problème mathématique de Navier-Stokes, même si cette solution a suscité des controverses.
Anthropic a alimenté de nouveaux éléments dans ce débat lorsque le rapport de renseignement sur les menaces de 154 pages, publié le 10 septembre, a détaillé cinq cas de tentatives de chercheurs d'utiliser les capacités de Claude pour soutenir leurs travaux sur les armes biologiques.
Anthropic a déclaré que les tentatives provenant de « régions non prises en charge » visaient à contourner les restrictions géographiques et à dissimuler l'objectif de leurs travaux. Le laboratoire a indiqué avoir supprimé les comptes, sans toutefois nommer de pays ni d'institution.
Les risques liés à l'IA sont-ils désormais supérieurs à ses avantages ?
Ces révélations sont intervenues alors que l'inquiétude grandissait au sein même des laboratoires. Le 8 septembre, le chercheur Jacob Coxon a démissionné et a accusé OpenAI et Anthropic de « jouer avec nos vies », affirmant que ses collègues pensaient que cette technologie pourrait « nous tuer tous d'ici la fin de la décennie » et mettant en garde contre une extinction de l'humanité d'ici 2030.
Sa publication a généré plus de 150 millions de vues. Deux jours plus tard, le 10 septembre, d'anciens employés d'Anthropic et de DeepMind (Google) ont exprimé des inquiétudes similaires et ont réclamé davantage de transparence.
Une pétition lancée fin juillet pour créer un mécanisme de ralentissement du développement a recueilli les signatures de plus de 1 000 travailleurs des principales entreprises d'IA.
OpenAI fait pression sur le Congrès pour l'adoption de règles de sécurité obligatoires et fondées sur les capacités, couvrant les tests, les évaluationsdent , la cybersécurité et le signalementdent . « La perspective d'un développement de l'IA accéléré par l'IA exige plus que de simples engagements volontaires », a écrit Chris Lehane, directeur des affaires mondiales.
La Californie a été la première à agir : le gouverneur Gavin Newsom a signé mercredi les projets de loi SB 813 et AB 1405, ainsi qu'un projet de loi complémentaire, AB 1864, visant à se prémunir contre les menaces biologiques permises par l'IA.
À Washington, le sénateur Bernie Sanders a présenté un projet de loi visant à suspendre le développement de l'IA avancée et à interdire la superintelligence artificielle, déclarant à la BBC qu'ignorer les avertissements des scientifiques ferait de quelqu'un « un imbécile ».
Ledent Donald Trump a répliqué jeudi, déclarant qu'il craignait que « si nous ne gagnons pas la bataille de l'IA, nous nous retrouvions dans une situation très délicate »
Les plus grands experts en cryptomonnaies lisent déjà notre newsletter. Envie d'en faire partie ? Rejoignez-les !
FAQ
Qu'a dit Sam Altman aux employés d'OpenAI ?
Lors d'une réunion à l'échelle de l'entreprise cette semaine, Altman a déclaré qu'OpenAI pourrait ralentir le rythme de son développement de pointe en matière d'IA, potentiellement en coordination avec d'autres laboratoires de premier plan, tout en notant que certaines entreprises pourraient ne pas être d'accord.
Qu’a révélé le rapport d’Anthropic sur les menaces liées aux armes biologiques ?
Le rapport de 154 pages d'Anthropic décrit cinq cas dans lesquels des chercheurs, dont certains liés à des institutions étatiques, ont utilisé Claude d'une manière susceptible de soutenir le développement d'armes biologiques, notamment une étude sur le chikungunya liée à un institut de recherche militaire ; la société a banni les comptes concernés.
Comment les législateurs réagissent-ils aux préoccupations liées à la sécurité de l'IA ?
Le gouverneur de Californie, Gavin Newsom, a signé mercredi plusieurs projets de loi sur la surveillance de l'IA, dont un visant les menaces biologiques permises par l'IA, tandis que le sénateur américain Bernie Sanders a présenté un projet de loi visant à suspendre l'IA avancée et à interdire la superintelligence artificielle.
Avertissement : Les informations fournies ne constituent pas un conseil en investissement. CryptopolitanCryptopolitan.com toute responsabilité quant aux investissements réalisés sur la base des informations présentées sur cette page. Nous voustronrecommandons vivement d’effectuer vosdent et/ou de consulter un professionnel qualifié avant toute décision d’investissement.
Hannah Collymore
Hannah est rédactrice et éditrice, forte d'une expérience de près de dix ans dans la rédaction de blogs et la couverture d'événements liés aux cryptomonnaies. Chez Cryptopolitan, elle contribue à la page d'actualités en rédigeant des articles et en analysant les dernières évolutions de la finance décentralisée DeFi, des comptes gérés par les utilisateurs (RWA), de la réglementation des cryptomonnaies, de l'intelligence artificielle (IA) et des technologies de pointe. Elle est diplômée en administration des affaires de l'université Arcadia.
