Les employés affirment qu'OpenAI et Google DeepMind cachent les risques de l'IA
Jeffrey Gogo
2 min de lecture
- D'anciens employés accusent des entreprises d'IA de dissimuler des risques susceptibles de déclencher une extinction humaine.
- Ils affirment que les entreprises privilégient le profit tout en évitant une « supervision efficace ».
- Les lanceurs d'alerte sont découragés par la menace de représailles de la part de leurs employeurs.
Plusieurs employés actuels et anciens d’OpenAI et de Google DeepMind ont accusé leurs entreprises de dissimuler les risques liés à l’IA qui pourraient potentiellement entraîner l’extinction de l’humanité. Dans une lettre ouverte, les travailleurs ont allégué que les entreprises d’IA privilégient le profit tout en évitant « un contrôle [gouvernemental] efficace ».
À lire également : OpenAI prépare la succession de GPT-4 face aux préoccupations en matière de sécurité
La lettre ouverte a été signée par 11 anciens employés d'OpenAI, deux de Google DeepMind, et soutenue par le « parrain de l'IA » Geoffrey Hinton, anciennement de Google. Elle affirmait que les motivations lucratives et les failles réglementaires permettent aux entreprises de dissimuler les menaces posées par l'intelligence artificielle avancée.
L’IA pourrait conduire à « l’extinction de l’humanité »
Selon la lettre, des entreprises d'IA telles qu'OpenAI et Google DeepMind, créateur de Gemini, n'ont pas partagé publiquement des informations sur les garanties inadéquates et les niveaux de risque de leurs systèmes parce qu'elles n'y sont pas obligées.
Sans surveillance réglementaire, les programmes d’IA pourraient causer de graves dommages aux humains. Les employés ont mis en garde :
« Ces risques vont de l’ancrage accru des inégalités existantes… à la perte de contrôle des systèmes d’IA autonomes, pouvant potentiellement entraîner l’extinction de l’humanité. »
Comme l'ont noté les signataires de la lettre, les entreprises d'IA elles-mêmes ont reconnu ces risques. En mai 2023, les PDG d'OpenAI, Anthropic et Google DeepMind ont co-signé une lettre ouverte du Center for AI Safety. La lettre se contentait de dire : « Atténuer le risque d'extinction dû à l'IA devrait être une priorité mondiale aux côtés d'autres risques à l'échelle de la société, tels que les pandémies et la guerre nucléaire. »
Les entreprises d’IA sont de plus en plus soumises à un examen attentif pour avoir privilégié le lancement de produits novateurs et les profits à la sécurité et à la sûreté. OpenAI, l’éditeur de ChatGPT, a pris note des préoccupations soulevées dans la lettre et a déclaré qu’elle s’efforçait de développer une intelligence artificielle sûre.
« Nous sommes fiers de notre bilan en matière de fourniture des systèmes d’IA les plus performants et les plus sûrs, et nous croyons en notre approche scientifique pour gérer les risques », a déclaré à la New York Times Lindsey Held, porte-parole d’OpenAI.
« Nous convenons qu’un débat rigoureux est crucial compte tenu de l’importance de cette technologie, et nous continuerons à engager le dialogue avec les gouvernements, la société civile et d’autres communautés du monde entier. »
Les lanceurs d’alerte craignent des représailles
Les anciens employés d’OpenAI et de Google ont déclaré qu’ils aimeraient combler le rôle de surveillance pendant que les régulateurs élaborent des lois obligeant les développeurs d’IA à divulguer publiquement davantage d’informations sur leurs programmes.
Cependant, les accords de confidentialité et la probabilité de représailles de la part des employeurs découragent les travailleurs de faire part publiquement de leurs préoccupations. Selon la lettre :
« Certains d’entre nous craignent raisonnablement diverses formes de représailles, compte tenu de l’historique de tels cas dans l’industrie. Nous ne sommes pas les premiers à rencontrer ou à parler de ces problèmes. »
Les lanceurs d’alerte sont protégés par la loi aux États-Unis, mais ceux qui dénoncent les dangers de l’intelligence artificielle ne sont pas couverts car la technologie n’est pas encore réglementée.
À lire également : ChatGPT continue de propager des fausses informations, selon le régulateur de données de l’UE
La lettre appelait les entreprises d’IA à faciliter les retours anonymes vérifiables, à soutenir une culture de critique ouverte et à ne pas prendre de représailles contre les lanceurs d’alerte.
Le chercheur en IA Lance B. Eliot a déclaré que les entreprises adoptent une approche de la carotte et du bâton face aux critiques. Les employés qui ne dénoncent pas les risques sont récompensés par des promotions et des augmentations de salaire.
D’un autre côté, les lanceurs d’alerte et les critiques perdent leurs options sur actions et peuvent être contraints de quitter l’entreprise et silencieusement mis au ban par la communauté dirigeante de l’IA.
Reporting de Cryptopolitan par Jeffrey Gogo
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Jeffrey Gogo
Jeffrey Gogo est journaliste avec 20 ans d'expérience dans les actualités et analyses liées aux affaires, à la finance et au changement climatique. Son travail a été publié par la Fondation Thomson Reuters, le Zimbabwe Herald et plusieurs publications en ligne. Il a également écrit abondamment sur l'IA et le métavers et a commencé à couvrir les marchés cryptographiques en 2017. Gogo a étudié le journalisme et la communication de masse à CCOSA à Harare.
