El ex director ejecutivo de Google, Eric Schmidt, afirma que los "estados rebeldes o terroristas" pueden hacer un mal uso de la IA para dañar a personas inocentes

Una reciente entrevista de la BBC con el exdirector ejecutivo de Google, Eric Schmidt, destacó su preocupación por los riesgos extremos que plantea el desarrollo de la IA, que podrían perjudicar a personas inocentes. Schmidt explicó que estados rebeldes y extremistas podrían explotar el rápido crecimiento de la inteligencia artificial para crear armas biológicas que podrían causar daños catastróficos a la población. 

El exdirector ejecutivo de Google también destacó que los riesgos que consideró no formaban parte de lo que la mayoría consideraba riesgos en el desarrollo de la IA. En su opinión, países como Rusia, Corea del Norte e Irak tenían segundas intenciones y podrían usar indebidamente la tecnología emergente para sus propios fines. 

Schmidt puso como ejemplo el ataque del 11-S, iniciado por el entonces líder de Al Qaeda, Osama bin Laden, que llevó a extremistas a tomar el control de aviones comerciales y utilizarlos como ojivas. El exdirector ejecutivo de Google destacó las miles de víctimas del ataque de 2001, sugiriendo que estos grupos podrían usar la IA para llevar a cabo ataques similares. 

Schmidt afirma que la supervisión gubernamental es crucial en el desarrollo de la IA

Schmidt explicó la importancia de la supervisión gubernamental en el desarrollo de la inteligencia artificial, mencionando el predominio del sector privado en la investigación e innovación de esta tecnología. Según el exdirector de Google, el gobierno debería estar al tanto de las acciones de empresas privadas, como Google, en materia de IA. Schmidt argumentó además que debe existir un equilibrio entre la supervisión gubernamental y el desarrollo. 

El exdirector ejecutivo de Google abordó además el interés actual de las grandes empresas tecnológicas en la IA, a pesar de desconocer su potencial hace años. Schmidt también destacó el conocimiento de los líderes de las empresas sobre su influencia en los consumidores y su diferencia de juicio de valor con respecto a los reguladores. Google se encuentra entre las empresas tecnológicas que desarrollan IA, incluyendo la puesta en marcha de modelos de entrenamiento para su aplicación de IA, Gemini. 

Schmidt aplaudió Joedent Biden a las exportaciones de chips de IA a todos los países, excepto 18, para mantener el liderazgo de Estados Unidos en el desarrollo de la inteligencia artificial. La administración Biden también reiteró la necesidad de mantener los chips lejos de actores malintencionados que podrían utilizar la tecnología para amenazar la seguridad nacional del país. El Departamento de Defensa de Estados Unidos sostuvo además que, en manos equivocadas, la IA podría utilizarse para crear armas de destrucción masiva. 

Nvidia, uno de los principales fabricantes de chips informáticos del país, señaló que las restricciones afectarían la competitividad de Estados Unidos y limitarían su innovación en IA. El vicepresidentedent Asuntos Gubernamentales de Nvidia, Ned Finkle, destacó la necesidad de autonomía en la innovación de IA. La UE también expresó su preocupación por las restricciones, mencionando la necesidad de que la región continúe comprando chips sin restricciones a Estados Unidos. 

Los países se asocian para el desarrollo inclusivo de la IA

#Regtech #IAResponsable

Aunque los compromisos aquí asumidos no son vinculantes —un acuerdo alcanzado que suena más a una declaración de principios que a un compromiso real, pero que al menos tiene el mérito de abrir la mente sobre de la #IA— , el Reino Unido y Estados Unidos se niegan a firmar… pic.twitter.com/cpGGOxBaY0

— Pinna Pierre (@pierrepinna) 13 de febrero de 2025

Sesenta países, entre ellos China, Francia, Alemania, otros países de la UE y la Unión Africana, firmaron un acuerdo internacional sobre el desarrollo inclusivo, ético y abierto de la IA. La declaración buscaba mantener la transparencia, la seguridad, la fiabilidad y la accesibilidad globales a la innovación en IA. Otra prioridad de la declaración era garantizar la sostenibilidad de la IA para las personas y la comunidad global. 

El acuerdo se firmó durante la Cumbre de Acción sobre IA, donde la UE también se comprometió a invertir 206.000 millones de dólares en el desarrollo de la inteligencia artificial. La presidenta de la Comisión Europeadent Ursula von der Leyen, describió la misión de la región de adoptar un enfoque único para la innovación y las aplicaciones de esta tecnología. El presidente francés,dent Macron, también destacó el interés de Francia en ayudar a la UE a liderar el sector. 

El Reino Unido y Estados Unidos siguen negándose a firmar el reciente acuerdo internacional. El gobierno británico expresó su preocupación por la seguridad nacional y la gobernanza global. Estados Unidos, por su parte, calificó el enfoque regulatorio de la IA de estricto. El vicepresidentedent Vanc criticó duramente la postura de la UE durante la cumbre, afirmando que el país no vería con buenos ojos una flexibilización de las regulaciones de IA para las empresas tecnológicas estadounidenses.