En los últimos años, el movimiento de Altruismo Eficaz (AE), surgido en Silicon Valley, ha adquirido una influencia considerable en la definición del enfoque de Washington sobre las políticas tecnológicas, en particular en lo que respecta a la inteligencia artificial (IA). Este movimiento racionalista, respaldado por multimillonarios tecnológicos, comenzó como un enfoque basado en datos para abordar el sufrimiento humano, pero se ha convertido en una fuerza influyente con un enfoque intenso en los riesgos existenciales de la IA. Si bien algunos responsables políticos comparten las preocupaciones del AE, otros se muestran escépticos sobre el alcance de estas amenazas.
Las preocupaciones de EA sobre el apocalipsis de la IA
Una de las características que defia los partidarios del Altruismo Eficaz es su temor a un apocalipsis de la IA. Muchos defensores del Altruismo Eficaz creentronque la humanidad está a punto de crear una IA superinteligente que podría superar todos los esfuerzos humanos por controlarla. Temen que esta IA pueda actuar de forma autónoma o caer en las manos equivocadas, con consecuencias catastróficas. Algunos, como el destacado pensador del Altruismo Eficaz Eliezer Yudkowsky, argumentan que incluso un holocausto nuclear sería preferible a un futuro de IA sin control.
La invasión de Washington por parte de EA
Los altruistas eficaces han llegado a Washington, D. C., en cantidades significativas, y su presencia está transformando el panorama de las políticas tecnológicas de la ciudad. Su enfoque en las políticas de IA difiere sustancialmente del de los profesionales políticos tradicionales en la capital del país. Mientras que Washington suele abordar cuestiones prácticas como la discriminación racial, la desinformación y el desplazamiento de la fuerza laboral, el Altruismo Eficaz aporta una perspectiva más trac y existencial .
Los miembros de Altruismo Eficaz impulsan activamente leyes de IA de gran alcance diseñadas para alinear su desarrollo con los valores y objetivos humanos. Estas políticas incluyen nuevas normas de presentación de informes para modelos avanzados de IA, requisitos de licencia para empresas de IA, restricciones a los modelos de IA de código abierto e incluso una propuesta para una "pausa" total en los experimentos de IA "gigantes". El objetivo general es prevenir un futuro de IA que pueda amenazar a la humanidad.
Un choque de culturas
Los defensores del Altruismo Eficaz suelen acercarse a Washington con un fervor similar al de los conversos religiosos, lo que crea un conflicto cultural con la cultura de formulación de políticas de la ciudad, gradual y detallista. Mientras que los legisladores en Washington D. C. están acostumbrados a abordar cuestiones prácticas, los Altruistas Eficaces se centran en preocupaciones existencialestrac, lo que los distingue por su estilo y enfoque.
Los críticos han expresado su preocupación por la falta de diversidad entre los seguidores del Altruismo Eficaz. El movimiento está compuesto predominantemente por personas blancas, hombres y de entornos privilegiados. Esta composición demográfica ha generado escepticismo entre algunos legisladores, en particular los de comunidades marginadas, quienes creen que la visión del mundo de EA podría no abordar adecuadamente las preocupaciones relacionadas con la IA de sus representados.
El dinero que fluye hacia el altruismo eficaz
Uno de los factores clave que impulsa la influencia de EA en Washington es el sustancial apoyo financiero que recibe. Open Philanthropy, una importante fuente de financiación para causas de EA, fundada por Dustin Moskovitz y Cari Tuna, ha canalizado inmensos recursos a centros de investigación y programas, colocando a investigadores de IA y bioseguridad en puestos clave dentro de agencias gubernamentales y oficinas del Congreso.
La influencia de los multimillonarios tecnológicos en el Altruismo Eficaz es innegable. Figuras prominentes como Elon Musk y Dustin Moskovitz han financiado generosamente causas y organizaciones relacionadas con el Altruismo Eficaz, invirtiendo cientos de millones de dólares en influyentes centros de estudios y programas que han colocado a personal en puestos gubernamentales clave. Este apoyo financiero le ha dado a EA una ventaja significativa para promover sus políticas.
Una influencia creciente
A pesar del escepticismo y las críticas, la influencia de EA sigue creciendo, moldeando el debate sobre políticas de IA en Washington. Los profesionales de políticas financiados por EA están integrados en los principales centros de políticas de la ciudad, como la Casa Blanca, agencias federales y centros de investigación influyentes. Su presencia está orientando el debate hacia los riesgos existenciales de la IA, que se han convertido en un punto central del discurso político.
Optimistas de la IA: surge una contrafuerza
Si bien la IA ha ganado considerable tracen Washington, comienza a surgir una contrafuerza. Los optimistas de la IA, a menudo denominados "aceleradores efectivos", se oponen a las propuestas para ralentizar el desarrollo y el control de la IA. Estos optimistas, liderados por figuras como Marc Andreessen, se centran principalmente en Silicon Valley y están decididos a ofrecer una narrativa alternativa.
No todos en Washington aceptan de buen grado la narrativa catastrófica de la IA. Algunos legisladores se muestran escépticos sobre la probabilidad y la gravedad de los riesgos existenciales de la IA. Creen que centrarse en estos riesgos puede distraer la trac de abordar cuestiones urgentes como el sesgo de la IA, la privacidad y la ciberseguridad.
Si bien las preocupaciones de la EA sobre los riesgos existenciales de la IA cobran cada vez mayor relevancia, un creciente grupo de legisladores aboga por un enfoque más equilibrado. Argumentan que abordar los desafíos inmediatos de la IA, como los sesgos y las preocupaciones sobre la privacidad, no debe quedar relegado a un segundo plano ante el temor a un hipotético apocalipsis de la IA.
El creciente impacto de EA en las políticas de IA
El movimiento Altruismo Eficaz, centrado en los riesgos existenciales de la IA y con influyentes patrocinadores, ha tenido un impacto significativo en el panorama político de la IA en Washington. Su presencia y sus políticas están transformando el debate sobre la regulación de la IA, aun cuando algunos legisladores se muestran cautelosos ante la gravedad de las amenazas. A medida que el discurso sobre las políticas de IA continúa evolucionando, encontrar un equilibrio entre abordar las preocupaciones inmediatas y contemplar los riesgos existenciales sigue siendo un desafío central para los legisladores en la capital del país.
