Ces dernières années, le mouvement de l'altruisme efficace (AE), né dans la Silicon Valley, a acquis une influence considérable sur la politique technologique de Washington, notamment en matière d'intelligence artificielle (IA). Ce mouvement rationaliste, soutenu par des milliardaires du secteur technologique, s'est initialement positionné comme une approche fondée sur les données pour lutter contre la souffrance humaine, mais est devenu une force influente, fortement préoccupée par les risques existentiels que représente l'IA. Si certains décideurs politiques partagent les préoccupations de l'AE, d'autres restent sceptiques quant à l'ampleur de ces menaces.
Les inquiétudes d'EA concernant l'apocalypse de l'IA
L'une des caractéristiques defides adeptes de l'altruisme efficace est leur crainte d'une apocalypse liée à l'IA. Nombre d'entre eux sonttronconvaincus que l'humanité est sur le point de créer une IA surintelligente capable de déjouer tous les efforts humains pour la contrôler. Ils craignent que cette IA puisse agir de manière autonome ou tomber entre de mauvaises mains, entraînant des conséquences catastrophiques. Certains, comme Eliezer Yudkowsky, figure emblématique de l'altruisme efficace, affirment même qu'un holocauste nucléaire serait préférable à un avenir où l'IA serait incontrôlée.
L'invasion de Washington par EA
Les partisans de l'altruisme efficace sont arrivés en nombre significatif à Washington, D.C., et leur présence redessine le paysage politique technologique de la ville. Leur approche de la politique en matière d'IA diffère sensiblement de celle des experts politiques traditionnels de la capitale. Alors que Washington s'attaque généralement à des problèmes concrets comme le profilage racial, la désinformation et les pertes d'emploi, l'altruisme efficace apporte une perspective plus trac et existentielle .
Les membres d'Effective Altruism militent activement pour une législation ambitieuse sur l'IA, visant à aligner son développement sur les valeurs et les objectifs humains. Ces mesures comprennent de nouvelles obligations de déclaration pour les modèles d'IA avancés, des exigences de licence pour les entreprises spécialisées, des restrictions sur les modèles d'IA open source, et même une proposition de suspension totale des expérimentations d'IA à grande échelle. L'objectif principal est de prévenir un avenir où l'IA pourrait menacer l'humanité.
Un choc des cultures
Les partisans de l'altruisme efficace abordent souvent Washington avec une ferveur comparable à celle des convertis, créant un choc culturel avec la culture politique de la ville, axée sur les progrès et le souci du détail. Alors que les décideurs politiques de Washington sont habitués à traiter des problèmes concrets, les adeptes de l'altruisme efficace mettent l'accent sur des préoccupations existentiellestrac, ce qui les distingue par leur style et leur approche.
Des critiques s'inquiètent du manque de diversité parmi les adeptes de l'altruisme efficace. Ce mouvement est majoritairement composé d'hommes blancs issus de milieux privilégiés. Cette composition démographique suscite le scepticisme de certains élus, notamment ceux issus de communautés marginalisées, qui estiment que la vision du monde de l'altruisme efficace ne répond pas suffisamment aux préoccupations liées à l'intelligence artificielle de leurs électeurs.
L'argent qui afflue vers l'altruisme efficace
L'un des principaux facteurs expliquant l'influence d'EA à Washington est le soutien financier considérable qu'elle reçoit. Open Philanthropy, un important bailleur de fonds d'EA fondé par Dustin Moskovitz et Cari Tuna, a investi des ressources considérables dans des groupes de réflexion et des programmes, plaçant ainsi des chercheurs en IA et en biosécurité à des postes clés au sein des agences gouvernementales et des bureaux du Congrès.
L'influence des milliardaires de la tech sur l'altruisme efficace est indéniable. Des personnalités comme Elon Musk et Dustin Moskovitz ont généreusement financé des causes et des organisations liées à l'AE, investissant des centaines de millions de dollars dans des groupes de réflexion et des programmes influents qui ont placé des membres de leur personnel à des postes clés au sein du gouvernement. Ce soutien financier a considérablement renforcé l'altruisme efficace dans la promotion de ses idées.
Une influence croissante
Malgré le scepticisme et les critiques, l'influence d'EA ne cesse de croître, façonnant le débat sur les politiques d'IA à Washington. Des experts en politiques publiques financés par EA sont présents au cœur des principaux centres de décision de la capitale, notamment à la Maison-Blanche, dans les agences fédérales et au sein de groupes de réflexion influents. Leur présence oriente les discussions vers les risques existentiels liés à l'IA, devenus un enjeu central du discours politique.
Les optimistes en matière d'IA : une force contraire émerge
Alors que l'intelligence artificielle a gagné du tracà Washington, une force d'opposition commence à émerger. Les optimistes de l'IA, souvent qualifiés d'« accélérateurs efficaces », s'opposent aux propositions visant à ralentir le développement et le contrôle de l'IA. Ces optimistes, menés par des personnalités comme Marc Andreessen, sont principalement basés dans la Silicon Valley et sont déterminés à proposer un discours alternatif.
À Washington, le discours apocalyptique sur l'IA ne fait pas l'unanimité. Certains élus restent sceptiques quant à la probabilité et à la gravité des risques existentiels liés à l'IA. Ils estiment que se focaliser sur ces risques risque de détourner l' trac de problèmes urgents tels que les biais de l'IA, la protection de la vie privée et la cybersécurité.
Alors que les préoccupations d'EA concernant les risques existentiels liés à l'IA gagnent en importance, un nombre croissant de décideurs politiques plaident pour une approche plus équilibrée. Ils affirment que la résolution des défis immédiats posés par l'IA, tels que les biais et les problèmes de confidentialité, ne doit pas être reléguée au second plan par la crainte d'une hypothétique catastrophe liée à l'IA.
L'influence croissante d'EA sur les politiques en matière d'IA
Le mouvement de l'altruisme efficace, axé sur les risques existentiels liés à l'IA et soutenu par des personnalités influentes, a profondément marqué le paysage politique de l'IA à Washington. Son influence et ses propositions redéfinissent le débat sur la réglementation de l'IA, même si certains décideurs politiques restent prudents quant à la gravité des menaces. Face à l'évolution constante du discours politique sur l'IA, trouver un équilibre entre la prise en compte des préoccupations immédiates et la réflexion sur les risques existentiels demeure un défi majeur pour les décideurs politiques de la capitale.
