Medios estadounidenses y figuras tecnológicas piden detener el desarrollo de la IA superinteligente

Una coalición de personalidades de los medios de comunicación de derecha, científicos y líderes tecnológicos de Estados Unidos están pidiendo una prohibición global del desarrollo de inteligencia artificial (IA) superinteligente hasta que la ciencia garantice que se puede controlar de forma segura, junto con el apoyo del público.

Según un informe de Reuters del miércoles, la petición coordinada por el Future of Life Institute (FLI) fue anunciada a través de una declaración conjunta firmada por más de 850 figuras públicas. 

El documento pide a los gobiernos y a las empresas de IA que suspendan todo trabajo de superinteligencia, sistemas de IA que supuestamente superan las capacidades cognitivas humanas, hasta que se impongan mecanismos de seguridad aprobados públicamente.

Los aliados convergen para detener el desarrollo de la IA de superinteligencia 

Los firmantes de la coalición están liderados por Steve Bannon y Glenn Beck, miembros de medios de comunicación de derecha, junto con los destacados investigadores de inteligencia artificial Geoffrey Hinton y Yoshua Bengio. Otras figuras incluyen al fundador de Virgin Group, Richard Branson; el cofundador de Apple, Steve Wozniak; y exfuncionarios militares y políticos estadounidenses. 

La lista también incluye al ex presidente del Estado Mayor Conjunto Mike Mullen, a la ex asesora de seguridad nacional Susan Rice y al duque y la duquesa de Sussex, el príncipe Harry y Meghan Markle, además de la exdent de Irlanda Mary Robinson.

El reconocido informático Yoshua Bengio habló sobre los temores de la coalición en un comunicado publicado en el sitio web de la iniciativa, afirmando que los sistemas de IA podrían pronto superar a la mayoría de los humanos en tareas cognitivas. Bengio reiteró que la tecnología podría ayudar a resolver problemas globales, pero plantea inmensos peligros si se desarrolla de forma imprudente.

“Para avanzar con seguridad hacia la superinteligencia, debemos determinar científicamente cómo diseñar sistemas de IA que sean fundamentalmente incapaces de dañar a las personas, ya sea por desalineación o uso malicioso”, afirmó. “También debemos asegurarnos de que el público tenga una voz mucho mástronen las decisiones que definirán nuestro futuro colectivo”

El Future of Life Institute, una organización sin fines de lucro fundada en 2014 con el respaldo inicial del de Tesla , Elon Musk, y el inversor tecnológico Jaan Tallinn, también se encuentra entre los grupos que hacen campaña por una gobernanza responsable de la IA. 

La organización advierte que la carrera para construir IA superinteligente o superinteligencia artificial (ISA) podría crear riesgos irreversibles para la humanidad si no se regula adecuadamente.

En su última declaración, el grupo señaló que la superinteligencia podría conducir a “la obsolescencia económica humana, el desempoderamiento, la pérdida de libertad, libertades civiles, dignidad y control, y a amenazas a la seguridad nacional e incluso a la posible extinción de la humanidad”

FLI está pidiendo a los responsables de las políticas que prohíban por completo la investigación y el desarrollo de superinteligencia hasta que haya un “tronapoyo público” y un “consenso científico de que dichos sistemas pueden construirse y controlarse de forma segura”

La industria tecnológica está dividida sobre el desarrollo de la IA

Los gigantes tecnológicos siguen intentando ampliar los límites de las capacidades de la IA, a pesar de que algunos grupos se oponen a su impacto en el empleo y el desarrollo de productos. xAI de Elon Musk, OpenAI de Sam Altman y Meta compiten por desarrollar potentes modelos de lenguaje de gran tamaño (LLM). 

En julio, el director ejecutivo de Meta, Mark Zuckerberg, afirmó durante una conferencia que el desarrollo de sistemas superinteligentes estaba "a la vista". Sin embargo, algunos expertos en IA afirman que el director ejecutivo de Meta está utilizando tácticas de marketing para asustar a la competencia, advirtiéndoles que su empresa está "a la vanguardia" en un sector que se espera que genere cientos de miles de millones de dólares en los próximos años.

El gobierno estadounidense y la industria tecnológica se han resistido a las peticiones de moratorias, argumentando que los temores a un «apocalipsis de la IA» son exagerados. Quienes se oponen a una pausa en el desarrollo afirman que frenaría la innovación, ralentizaría el crecimiento económico y limitaría los beneficios potenciales que la IA podría aportar a la medicina, la ciencia climática y la automatización.

Sin embargo, según una encuesta nacional encargada por FLI, el público estadounidense está mayoritariamente a favor de una supervisión más estricta. La encuesta, realizada a 2000 adultos, reveló que tres cuartas partes de losdentapoyan una mayor regulación de la IA avanzada, y seis de cada diez creen que no se debería desarrollar una IA superhumana hasta que se demuestre que es controlable. 

Antes de convertirse en director ejecutivo de OpenAI, Sam Altman advirtió en una publicación de blog de 2015 que “la inteligencia artificial sobrehumana es probablemente la mayor amenaza para la existencia continua de la humanidad”

De manera similar, Elon Musk, quien simultáneamente ha financiado y luchado contra el avance de la IA, dijo a principios de este año en el podcast de Joe Rogan que había "solo un 20% de posibilidades de aniquilación" si la IA superaba la inteligencia humana.