Los medios de EE. UU. y figuras tecnológicas piden detener el desarrollo de IA superinteligente
- Más de 850 figuras públicas, entre ellas Steve Bannon, Geoffrey Hinton y Richard Branson, han firmado una declaración que insta a una pausa global en el desarrollo de la IA superinteligente.
- El Instituto para el Futuro de la Vida, respaldado por Elon Musk y Jaan Tallinn, advierte que el progreso descontrolado de la IA plantea riesgos que van desde la pérdida de empleos hasta la posible extinción humana.
- Una encuesta nacional muestra que la mayoría de los estadounidenses apoyan una estricta regulación de la IA, y científicos como Yoshua Bengio piden seguridad y supervisión pública antes de avanzar hacia la superinteligencia.
Una coalición de personalidades de los medios de derecha en EE. UU., científicos y líderes tecnológicos están pidiendo una prohibición global del desarrollo de inteligencia artificial (IA) superinteligente hasta que la ciencia asegure que puede controlarse de manera segura, en paralelo con el apoyo del público.
Según un informe del miércoles de Reuters, el llamado coordinado por el Instituto para el Futuro de la Vida (FLI) se anunció a través de una declaración conjunta firmada por más de 850 figuras públicas.
El documento está pidiendo a los gobiernos y empresas de IA que suspendan todo el trabajo de superinteligencia, sistemas de IA que supuestamente superan las capacidades cognitivas humanas, hasta que se impongan mecanismos de seguridad aprobados públicamente.
Aliados convergen para detener el desarrollo de IA de superinteligencia
El firmantes en la coalición están liderados por miembros de los medios de derecha Steve Bannon y Glenn Beck, junto con destacados investigadores de IA Geoffrey Hinton y Yoshua Bengio. Otras figuras incluyen al fundador del Grupo Virgin Richard Branson, cofundador de Apple Steve Wozniak, y exfuncionarios militares y políticos de EE. UU.
La lista también incluye al ex presidente del Estado Mayor Conjunto de las Fuerzas Armadas Mike Mullen, ex asesora de Seguridad Nacional Susan Rice, y el Duque y la Duquesa de Sussex, el príncipe Harry y Meghan Markle, junto con la ex presidenta de Irlanda Mary Robinson.
El renombrado científico informático Yoshua Bengio habló sobre los miedos de la coalición en una declaración en el sitio web de la iniciativa, diciendo que los sistemas de IA pronto podrían superar a la mayoría de los humanos en tareas cognitivas. Bengio reiteró que la tecnología podría ayudar a resolver problemas globales, pero plantea peligros inmensos si se desarrolla de manera imprudente.
“Para avanzar de manera segura hacia la superinteligencia, debemos determinar científicamente cómo diseñar sistemas de IA que sean fundamentalmente incapaces de dañar a las personas, ya sea por desalineación o uso malicioso”, dijo. “También necesitamos asegurarnos de que el público tenga una voz mucho más fuerte en las decisiones que darán forma a nuestro futuro colectivo.”
El Instituto para el Futuro de la Vida, una organización sin fines de lucro fundada en 2014 con el apoyo inicial de Tesla el CEO Elon Musk y el inversor tecnológico Jaan Tallinn, también está entre los grupos que hacen campaña por una gobernanza responsable de la IA.
La organización advierte que la carrera por construir IA superinteligente o superinteligencia artificial (ASI) podría crear riesgos irreversibles para la humanidad si no se regula adecuadamente.
En su última declaración, el grupo señaló que la superinteligencia podría llevar a la “obsolescencia económica humana, desempoderamiento, pérdidas de libertad, libertades civiles, dignidad y control, y amenazas a la seguridad nacional e incluso la posible extinción de la humanidad.”
FLI está pidiendo a los legisladores que prohíban la investigación y el desarrollo de la superinteligencia por completo hasta que haya “un fuerte apoyo público” y “un consenso científico de que tales sistemas pueden construirse y controlarse de manera segura.”
La industria tecnológica dividida sobre el desarrollo de IA
Los gigantes tecnológicos siguen intentando empujar los límites de las capacidades de la IA, aunque algunos grupos se oponen a cómo ha afectado a los empleos y al desarrollo de productos. xAI de Elon Musk, OpenAI de Sam Altman y Meta están compitiendo para desarrollar potentes modelos de lenguaje grande (LLM).
En julio, el CEO de Meta, Mark Zuckerberg, dijo durante una conferencia que el desarrollo de sistemas superinteligentes estaba “ahora a la vista”. Sin embargo, algunos expertos en IA afirman que el CEO de Meta está utilizando tácticas de marketing para asustar a los competidores sobre cómo su empresa está “adelantada” en un sector que se espera vea cientos de miles de millones de dólares en los próximos años.
El El gobierno de EE. UU. y la industria tecnológica han resistido las demandas de moratorias, argumentando que los temores de un “apocalipsis de la IA” están vehementemente exagerados. Los detractores de una pausa en el desarrollo dicen que esto frenaría la innovación, ralentizaría el crecimiento económico y los beneficios potenciales que la IA podría traer a la medicina, la ciencia climática y la automatización.
Sin embargo, según una encuesta nacional encargada por FLI, el público estadounidense está en gran medida a favor de una supervisión más estricta. La encuesta de 2,000 adultos encontró que tres cuartas partes de los encuestados apoyan más regulación de la IA avanzada, y seis de cada diez creen que la IA superhumana no debería desarrollarse hasta que se demuestre que es controlable.
Antes de convertirse en el director ejecutivo de OpenAI, Sam Altman advirtió en una publicación de blog de 2015 que “la inteligencia artificial superhumana es probablemente la mayor amenaza para la existencia continua de la humanidad.”
De manera similar, Elon Musk, quien ha financiado y luchado simultáneamente contra el avance de la IA, dijo a principios de este año en el podcast de Joe Rogan que había “solo un 20% de probabilidad de aniquilación” de que la IA superara la inteligencia humana.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Florence Muchai
Florence ha estado cubriendo durante los últimos 6 años noticias sobre criptomonedas, juegos, tecnología e inteligencia artificial. Sus estudios de Ciencias de la Computación en la Universidad de Ciencias y Tecnología de Meru y Gestión de Desastres y Diplomacia Internacional en MMUST la dotan adecuadamente de habilidades lingüísticas, de observación y técnicas. Florence ha trabajado en VAP Group y como editora en varias casas de medios de criptomonedas.
