Cómo el grupo de protesta Pause AI gana tracción contra el desarrollo de la IA

Un número creciente de individuos y grupos está expresando temores sobre los posibles riesgos asociados con la inteligencia artificial (IA) y su impacto en la humanidad. Pause AI, un grupo de protesta de base, ha surgido como una de estas organizaciones que hace campaña por una pausa en el desarrollo de la IA. Liderado por Joep Meindertsma, el grupo de protesta Pause AI sensibiliza sobre los peligros de la IA y su potencial para causar el colapso de la sociedad o incluso la extinción humana. Las preocupaciones planteadas por Meindertsma y sus seguidores reflejan un sentimiento más amplio, que está ganando tracción dentro del sector tecnológico y la política mainstream.

La ansiedad de Joep Meindertsma sobre los riesgos que plantea la IA se intensificó con el lanzamiento del modelo de lenguaje GPT-4 de OpenAI y el posterior éxito de ChatGPT, que mostró los notables avances en las capacidades de la IA. Figuras destacadas como Geoffrey Hinton, un destacado investigador de IA, también han expresado sus preocupaciones sobre los posibles peligros asociados con el rápido progreso en el desarrollo de la IA. Esta creciente conciencia ha llevado a un aumento de la ansiedad pública, particularmente entre la generación más joven, que ya está profundamente preocupada por el cambio climático.

Riesgos existenciales y ansiedad por la IA

El concepto de "riesgo existencial" relacionado con la IA varía entre los individuos. Meindertsma se queja del colapso social debido al hacking a gran escala, imaginando un escenario en el que la IA se utilice para crear ciberarmas capaces de desactivar sistemas esenciales. Si bien los expertos consideran que este escenario es muy poco probable, Meindertsma se preocupa por la posible interrupción de servicios críticos como la banca y la distribución de alimentos, lo que llevaría al caos generalizado e incluso a la pérdida de miles de millones de vidas. Además, Meindertsma comparte la preocupación, comúnmente expresada por Hinton, de que los sistemas de IA superinteligentes podrían desarrollar sus propios subobjetivos que potencialmente serían peligrosos para la humanidad.

Si bien algunos expertos son reacios a desacreditar las preocupaciones de Meindertsma, citando la incertidumbre sobre la trayectoria futura de la IA, otros descartan la idea de que la IA se vuelva consciente o se vuelva contra la humanidad sin pruebas concretas. La falta de consenso entre los expertos contribuye a la demanda de Meindertsma de una pausa global en el desarrollo de la IA hasta que las medidas de seguridad puedan abordarse adecuadamente. Se han planteado preocupaciones sobre la creciente desconexión entre los avances de la IA y la investigación de seguridad, con algunos investigadores de IA que carecen de formación en consideraciones éticas y legales asociadas con su trabajo.

Llamado a la acción de Pause AI

Joep Meindertsma y Pause AI abogan por una pausa global en el desarrollo de la IA impuesta por el gobierno para garantizar su progreso seguro. Meindertsma cree que es necesario organizar una cumbre internacional organizada por los gobiernos para lograr este objetivo. Si bien el compromiso del Reino Unido de albergar una cumbre global sobre la seguridad de la IA ofrece una pizca de esperanza para Meindertsma, la ambición simultánea de convertir al Reino Unido en un centro de la industria de la IA genera dudas sobre la probabilidad de un apoyo generalizado a la pausa.

La protesta de Pause AI en Londres cuenta con un pequeño grupo de hombres jóvenes que comparten preocupaciones sobre los posibles riesgos de la IA. Muchos de ellos tienen antecedentes en activismo relacionado con el cambio climático y creen que las empresas de IA, impulsadas por motivos de lucro, están poniendo vidas en riesgo y socavando la agencia humana. Se preocupan de que los sistemas de IA poderosos puedan exacerbar los problemas sociales existentes, como los problemas laborales y los sesgos.

Joep Meindertsma se siente alentado por el creciente apoyo a Pause AI y las oportunidades que ha tenido para interactuar con funcionarios dentro del Parlamento neerlandés y la Comisión Europea. Sin embargo, los expertos están divididos sobre el impacto de plantear preocupaciones sobre los riesgos de la IA, con algunos argumentando que la sociedad está mejor preparada para enfrentar estos desafíos de lo que sugiere Pause AI. El debate continuo sobre el impacto potencial de la IA y la necesidad de precauciones de seguridad destaca la compleja relación entre el desarrollo de la IA y la garantía de su uso responsable.