La IA avanzada podría crear nuevos riesgos extremos, dicen expertos en un informe previo a la cumbre de IA

Un informe científico internacional sobre la seguridad de la IA avanzada publicado recientemente muestra que ésta podría ser calamitosa y dejar un rastro de dolor y sufrimiento para los humanos.

Según AP, este es el primer informe internacional de su tipo, publicado el miércoles antes de la cumbre de IA que se celebrará en París en febrero, y que cataloga los peligros que plantea esta tecnología de rápido crecimiento.

Los países respaldan el Informe Científico Internacional

El informe detalla algunos de los peligros que podrían surgir como resultado de la IA avanzada, entre ellos la facilitación del terrorismo y la pérdida generalizada de empleos. Esto ya se ha experimentado, especialmente en el sector tecnológico, donde miles de empleos se han eliminado a medida que las empresas se automatizan gracias a la IA.

Según AP, el informe cuenta con el respaldo de 30 países, incluidos Estados Unidos y China, lo que representa una rara ocasión en la que las dos mayores economías del mundo cooperan. Ambas se han enfrentado en una feroz lucha por la supremacía en inteligencia artificial. Esta semana, la startup china DeepSeek sorprendió al mundo con su chatbot económico, a pesar de que Estados Unidos impuso estrictos controles a las exportaciones chinas.

El destacado científico de inteligencia artificial Yoshua Bengio dirigió el estudio, que es una fusión de estudios ya existentes destinados a orientar a las autoridades en el diseño de barreras para esta tecnología de rápido crecimiento.

"Hay mucho en juego", afirma el informe, señalando que hace unos años los sistemas de IA apenas podían producir un párrafo coherente. Sin embargo, gracias a los recientes avances, la IA ahora puede generar imágenes realistas, programación informática y mantener conversaciones extensas con los usuarios.

Según los investigadores, los peligros de la IA avanzada ya se están viendo lentamente, como la desinformación, las falsificaciones profundas, las estafas y los sesgos.

“Necesitamos comprender mejor los sistemas que estamos construyendo y los riesgos que conllevan para poder tomar mejores decisiones en el futuro”

Bengio.

Esto ocurre “a medida que la IA de propósito general se vuelve más capaz, surgen gradualmente evidencias de riesgos adicionales”, según el informe.

Esto también ocurre durante la misma semana en que el Vaticano ha advertido contra la tecnología, junto con el grupo responsable del Reloj del Juicio Final. El informe se centra en la IA de propósito general, ejemplificada por modelos como ChatGPT de OpenAI.

El informe categorizó los riesgos de la IA avanzada

El Informe Científico Internacional clasifica los riesgos en tres: uso malintencionado, fallos de funcionamiento y riesgos sistémicos generalizados. Los investigadores analizaron la facilidad con la que la IA aprende a usar armas químicas o biológicas, lo que supone un gran riesgo para los humanos.

Además, el informe señala que la IA de propósito general también puede transformar el mercado laboral, desplazando a algunos empleados, aunque otros investigadores coinciden en que la IA podría crear más empleo del que elimina.

El informe también expresó temores de que los sistemas de IA se salgan de control por dos posibles razones: la primera es porque socavan la supervisión humana o porque los humanos prestan menos atención.

Bengio reveló que los 100 expertos que se reunieron para elaborar el informe no siempre coincidieron en qué esperar de la IA en el futuro. Uno de los desacuerdos residía en cuándo la IA superaría las capacidades humanas en diferentes tareas.

“También hay desacuerdos sobre los escenarios”, afirmó Bengio.

Por supuesto, nadie tiene una bola de cristal. Algunos escenarios son muy beneficiosos. Otros son aterradores. Creo que es fundamental que los responsables políticos y el público evalúen esa incertidumbre

Bengio.

El informe, que cuenta con el respaldo de varios países, también cuenta con el apoyo de la Unión Europea. Se publica en un momento en que se espera que líderes mundiales, líderes tecnológicos y expertos, así como la sociedad civil, se reúnan de nuevo en la Cumbre de Acción sobre IA de París. Los países firmarán una "declaración común" sobre el desarrollo de la IA.