Le mouvement d'Altruisme Efficace de la Silicon Valley façonne la politique de l'IA à Washington

Ces dernières années, le mouvement de l'Altruisme Efficace (EA), né dans la Silicon Valley, a acquis une influence substantielle dans la façon dont Washington aborde les politiques technologiques, en particulier en ce qui concerne l'intelligence artificielle (IA). Ce mouvement rationaliste, soutenu par des milliardaires de la technologie, a commencé comme une approche axée sur les données pour lutter contre la souffrance humaine, mais s'est évolué en une force influente avec un focus intense sur les risques existentiels de l'IA. Alors que certains décideurs politiques adoptent les préoccupations de l'EA, d'autres restent sceptiques quant à l'ampleur de ces menaces.

Les préoccupations de l'EA concernant l'apocalypse de l'IA

L'une des caractéristiques définissantes des adeptes de l'EA est leur appréhension face à une apocalypse de l'IA. De nombreux défenseurs de l'Altruisme Efficace croient fermement que l'humanité est au bord de créer une IA superintelligente qui pourrait potentiellement surpasser tous les efforts humains pour la contrôler. Cette IA, craignent-ils, pourrait agir de manière autonome ou tomber entre de mauvaises mains, entraînant des conséquences catastrophiques. Certains, y compris le penseur EA prominent Eliezer Yudkowsky, soutiennent qu'un holocauste nucléaire serait un résultat préférable par rapport à un avenir IA incontrôlé.

L'invasion de Washington par l'EA

Les altruistes efficaces se sont déversés en nombre significatif à Washington, D.C., et leur présence remodel le paysage des politiques technologiques de la ville. Leur approche des politiques de l'IA diffère considérablement de celle des professionnels traditionnels des politiques dans la capitale nationale. Alors que Washington traite généralement des préoccupations pratiques comme le profilage racial, la désinformation et le déplacement de la main-d'œuvre, l'Altruisme Efficace apporte une perspective plus abstraite, existentielle à la table.

Les membres de l'Altruisme Efficace poussent activement à l'adoption de lois ambitieuses sur l'IA conçues pour aligner le développement de l'IA sur les valeurs et les objectifs humains. Ces politiques comprennent de nouvelles règles de déclaration pour les modèles d'IA avancés, des exigences de licence pour les entreprises d'IA, des restrictions sur les modèles d'IA open-source, et même une proposition pour une « pause » complète sur les expériences d'IA « géantes ». L'objectif global est d'empêcher un avenir IA qui pourrait potentiellement menacer l'humanité.

Un clash de cultures

Les défenseurs de l'Altruisme Efficace approchent souvent Washington avec une ferveur semblable à celle de convertis religieux, créant un clash culturel avec la culture de prise de décision politique incrémentale et orientée vers les détails de la ville. Alors que les décideurs politiques à Washington sont habitués à traiter des questions pratiques, les EA mettent l'accent sur des préoccupations existentielles abstraites, les distinguant par leur style et leur focus.

Les critiques ont soulevé des préoccupations concernant le manque de diversité parmi les adeptes de l'Altruisme Efficace. Le mouvement est principalement composé d'individus qui sont blancs, masculins et issus de milieux privilégiés. Cette composition démographique a conduit au scepticisme de certains législateurs, en particulier ceux issus de communautés marginalisées, qui croient que la vision du monde de l'EA pourrait ne pas répondre adéquatement aux préoccupations liées à l'IA de ceux qu'ils représentent.

L'argent qui coule vers l'Altruisme Efficace

L'un des facteurs clés qui alimentent l'influence de l'EA à Washington est le soutien financier substantiel qu'il reçoit. Open Philanthropy, un grand financeur des causes de l'EA fondé par Dustin Moskovitz et Cari Tuna, a canalisé d'immenses ressources vers des think tanks et des programmes, plaçant des chercheurs en IA et en biosécurité dans des positions pivots au sein des agences gouvernementales et des bureaux du Congrès.

L'influence des milliardaires de la technologie dans l'Altruisme Efficace ne peut être sous-estimée. Des figures prominentes comme Elon Musk et Dustin Moskovitz ont généreusement financé des causes et des organisations liées à l'EA, versant des centaines de millions de dollars dans des think tanks et des programmes influents qui ont placé des membres du personnel dans des positions gouvernementales clés. Ce soutien financier a donné à l'EA un avantage significatif dans la défense de ses politiques.

Une influence croissante

Malgré le scepticisme et les critiques, l'influence de l'EA continue de croître, façonnant le débat autour de la politique de l'IA à Washington. Les professionnels des politiques financés par l'EA sont intégrés dans tous les nœuds politiques clés de la ville, y compris la Maison Blanche, les agences fédérales et les think tanks influents. Leur présence oriente les discussions vers les risques existentiels de l'IA, qui sont devenus un point focal du discours politique.

Les optimistes de l’IA : une force contre-poids émerge

Alors que l’Altruisme Efficace (EA) a gagné une traction considérable à Washington, une force contre-poids commence à émerger. Les optimistes de l’IA, souvent appelés « accélérationnistes efficaces », s’opposent aux propositions visant à ralentir le développement et le contrôle de l’IA. Ces optimistes, menés par des figures telles que Marc Andreessen, sont principalement basés dans la Silicon Valley et sont déterminés à offrir un récit alternatif.

Tout le monde à Washington n'accepte pas facilement le récit de l'apocalypse de l'IA. Certains législateurs restent sceptiques quant à la probabilité et à la gravité des risques existentiels de l'IA. Ils croient que l'accent mis sur ces risques peut distraire de la résolution de questions pressantes telles que les biais de l'IA, la vie privée et la cybersécurité.

Alors que les préoccupations de l'EA concernant les risques existentiels de l'IA gagnent en importance, un nombre croissant de décideurs politiques plaident pour une approche plus équilibrée. Ils soutiennent que la résolution des défis immédiats de l'IA, tels que les biais et les préoccupations en matière de vie privée, ne devrait pas passer au second plan face à la peur d'un apocalypse IA hypothétique.

L’impact croissant de l’EA sur la politique de l’IA

Le mouvement de l’Altruisme Efficace, avec son accent sur les risques existentiels liés à l’IA et ses soutiens influents, a eu un impact significatif sur le paysage politique de Washington en matière d’IA. Sa présence et ses politiques redessinent le débat sur la régulation de l’IA, même si certains décideurs politiques restent prudents quant à la gravité des menaces. Alors que le discours sur la politique de l’IA continue d’évoluer, trouver un équilibre entre la prise en compte des préoccupations immédiates et la contemplation des risques existentiels reste un défi central pour les décideurs de la capitale nationale.