Comment le groupe de protestation Pause AI gagne en traction contre le développement de l'IA
- Les préoccupations concernant les risques de l'IA alimentent l'émergence de groupes de protestation de base comme Pause AI, qui plaident pour un arrêt du développement de l'IA afin de prévenir un effondrement sociétal ou une extinction humaine.
- La prise de conscience croissante des dangers potentiels associés à l'IA a conduit à une anxiété publique accrue, en particulier parmi la jeune génération déjà préoccupée par le changement climatique.
- Un débat existe parmi les experts concernant les risques existentiels potentiels de l'IA, certains reconnaissant la nécessité de précautions de sécurité tandis que d'autres rejettent ces préoccupations sans preuves concrètes.
Un nombre croissant d'individus et de groupes expriment leurs craintes concernant les risques potentiels liés à l'intelligence artificielle (IA) et son impact sur l'humanité. Pause AI, un groupe de protestation de base, s'est imposé comme l'une de ces organisations œuvrant pour un arrêt du développement de l'IA. Dirigé par Joep Meindertsma, le groupe de protestation Pause AI sensibilise aux dangers de l'IA et à son potentiel de provoquer un effondrement sociétal ou même une extinction humaine. Les inquiétudes soulevées par Meindertsma et ses partisans reflètent un sentiment plus large, qui gagne en traction au sein du secteur technologique et de la politique grand public.
L'anxiété de Joep Meindertsma face aux risques posés par l'IA s'est intensifiée avec la sortie du modèle de langage GPT-4 d'OpenAI et le succès ultérieur de ChatGPT, qui a mis en lumière les avancées remarquables des capacités de l'IA. Des personnalités notables telles que Geoffrey Hinton, un chercheur éminent en IA, ont également exprimé leurs inquiétudes quant aux dangers potentiels liés à la progression rapide du développement de l'IA. Cette prise de conscience croissante a entraîné une augmentation de l'anxiété publique, en particulier parmi les jeunes générations déjà profondément préoccupées par le changement climatique.
Risques existentiels et anxiété liée à l'IA
Le concept de « risque existentiel » lié à l'IA varie d'une personne à l'autre. Meindertsma s'inquiète d'un effondrement social dû au piratage à grande échelle, imaginant un scénario où l'IA serait utilisée pour créer des armes cybernétiques capables de désactiver les systèmes essentiels. Bien que les experts jugent ce scénario hautement improbable, Meindertsma craint la rupture potentielle de services critiques comme la banque et la distribution alimentaire, entraînant le chaos généralisé et même la perte de milliards de vies. De plus, Meindertsma partage l'inquiétude, souvent exprimée par Hinton, selon laquelle des systèmes d'IA surintelligents pourraient développer leurs propres sous-objectifs potentiellement dangereux pour l'humanité.
Alors que certains experts hésitent à discréditer les préoccupations de Meindertsma, citant l'incertitude quant à la trajectoire future de l'IA, d'autres rejettent l'idée que l'IA puisse devenir consciente ou se retourner contre l'humanité sans preuves concrètes. Le manque de consensus parmi les experts alimente la demande de Meindertsma pour une pause mondiale dans le développement de l'IA jusqu'à ce que des mesures de sécurité puissent être adéquatement prises en compte. Des inquiétudes ont été soulevées concernant le décalage croissant entre les avancées de l'IA et la recherche sur la sécurité, certains chercheurs en IA manquant de formation aux considérations éthiques et juridiques associées à leur travail.
L'appel de Pause AI à l'action
Joep Meindertsma et Pause AI plaident pour une pause mondiale imposée par les gouvernements dans le développement de l'IA afin d'en garantir une progression sûre. Meindertsma estime qu'un sommet international organisé par les gouvernements est nécessaire pour atteindre cet objectif. Bien que l'engagement du Royaume-Uni à accueillir un sommet mondial sur la sécurité de l'IA offre une lueur d'espoir à Meindertsma, l'ambition simultanée de faire du Royaume-Uni un hub de l'industrie de l'IA suscite des doutes quant à la probabilité d'un soutien généralisé à une pause.
La manifestation de Pause AI à Londres rassemble un petit groupe de jeunes hommes qui partagent leurs inquiétudes concernant les risques potentiels de l'IA. Beaucoup d'entre eux ont un passé dans le militantisme lié au changement climatique et estiment que les entreprises de l'IA, motivées par des impératifs de profit, mettent des vies en danger et sapent l'autonomie humaine. Ils craignent que des systèmes d'IA puissants n'exacerbent les problèmes sociétaux existants, tels que les questions liées au travail et les biais.
Joep Meindertsma se sent encouragé par le soutien croissant accordé à Pause AI et par les opportunités qu'il a eues d'échanger avec des responsables du Parlement néerlandais et de la Commission européenne. Cependant, les experts sont divisés quant à l'impact de la sensibilisation aux risques de l'IA ; certains soutiennent que la société est mieux préparée à relever ces défis que ne le suggère Pause AI. Le débat en cours sur l'impact potentiel de l'IA et la nécessité de mesures de sécurité soulignent la relation complexe entre le développement de l'IA et la garantie de son utilisation responsable.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Glory Kaburu
Glory est une journaliste extrêmement compétente, maîtrisant les outils d'intelligence artificielle et la recherche. Passionnée par l'IA, elle a rédigé plusieurs articles sur le sujet. Elle se tient informée des dernières avancées en intelligence artificielle, en apprentissage automatique et en apprentissage profond, et écrit régulièrement à ce propos.
