El ex CEO de Google Eric Schmidt dice que 'estados renegados o terroristas' pueden malutilizar la IA para dañar a personas inocentes

Una reciente entrevista de la BBC con el exdirector ejecutivo de Google, Eric Schmidt, destacó su preocupación por los riesgos extremos planteados por el desarrollo de la IA que podrían dañar a personas inocentes. Schmidt explicó que estados rebeldes y extremistas podrían explotar el rápido crecimiento de la inteligencia artificial para crear armas biológicas que podrían infligir un daño catastrófico al público. 

El exdirector ejecutivo de Google también destacado que los riesgos que consideraba no formaban parte de lo que la mayoría de las personas consideraba como riesgos en el desarrollo de la IA. En su opinión, países como Rusia, Corea del Norte e Irak tenían motivos ocultos y podrían malversar la tecnología emergente para sus propios propósitos. 

Schmidt dio un ejemplo del ataque del 11 de septiembre iniciado por el entonces líder de Al-Qaeda, Osama bin Laden, lo que llevó a extremistas a tomar el control de aviones comerciales y usarlos como ojivas. El exdirector ejecutivo de Google destacó a las miles de víctimas del ataque de 2001, sugiriendo que tales grupos podrían usar la IA para llevar a cabo ataques similares. 

Schmidt dice que la supervisión gubernamental es crucial en el desarrollo de la IA

Schmidt explicó la importancia de la supervisión gubernamental en el desarrollo de la inteligencia artificial, mencionando el dominio del sector privado en la investigación e innovación de la tecnología. Según el exjefe de Google, el gobierno debería tener una idea de lo que las empresas privadas, como Google, están haciendo con respecto a la IA. Schmidt argumentó además que debía haber un equilibrio entre la supervisión gubernamental y el desarrollo. 

El exdirector ejecutivo de Google abordó además el interés actual que las grandes empresas tecnológicas tenían en la IA a pesar de su ignorancia sobre su potencial hace años. Schmidt también indicó el conocimiento de los líderes de las empresas sobre su influencia en los consumidores y su diferencia en la valoración de los reguladores. Google está entre las empresas tecnológicas que desarrollan IA, incluida la iniciación de modelos de entrenamiento para su aplicación de IA, Gemini. 

Schmidt elogió las restricciones del expresidente Joe Biden a la exportación de chips de IA a todos los países excepto 18 para mantener el liderazgo de EE. UU. en el desarrollo de IA. La administración de Biden también reiteró la necesidad de mantener los chips alejados de actores malintencionados que podrían aprovechar la tecnología para amenazar la seguridad nacional de la nación. El Departamento de Defensa de EE. UU. mantuvo además que, en manos equivocadas, la IA podría usarse para crear armas de destrucción masiva. 

Nvidia, uno de los principales fabricantes de chips de computación en el país, explicó que las restricciones afectarían la competitividad de EE. UU. mientras limitan su innovación en IA. El vicepresidente de Asuntos Gubernamentales de Nvidia, Ned Finkle, destacó la necesidad de autonomía en la innovación de IA. La UE también expresó preocupaciones sobre las restricciones, mencionando la necesidad de que la región continúe comprando chips sin restricciones de EE. UU. 

Los países se asocian para un desarrollo inclusivo de la IA

#Regtech #ResponsibleAI

Aunque los compromisos adquiridos aquí no son vinculantes – un acuerdo alcanzado aquí que suena más como una declaración de principios que un compromiso real, pero que al menos tiene el mérito de abrir "mentes" sobre #AI seguridad – , el Reino Unido y EE. UU. se niegan a firmar… pic.twitter.com/cpGGOxBaY0

— Pinna Pierre (@pierrepinna) febrero 13, 2025

60 países, incluyendo China, Francia, Alemania, otros países de la UE y la Unión Africana, firmó un acuerdo internacional sobre el desarrollo inclusivo, ético y abierto de la IA. La declaración tenía como objetivo mantener la transparencia global, la seguridad, la confiabilidad y la accesibilidad a la innovación en IA. Otra prioridad de la declaración fue garantizar la sostenibilidad de la IA para los individuos y la comunidad global. 

El acuerdo se firmó durante la Cumbre de Acción de IA, donde la UE también comprometido $206 mil millones hacia el desarrollo de IA. La presidenta de la Comisión Europea, Ursula Von der Leyen, describió la misión de la región de adoptar un enfoque único para la innovación y los casos de uso de la tecnología. El presidente francés Emmanuel Macron también destacó el interés de Francia en ayudar a la UE a liderar la industria. 

El Reino Unido y EE. UU. aún se negaron a firmar el reciente acuerdo internacional. El gobierno del Reino Unido expresó preocupaciones sobre la seguridad nacional y la gobernanza global. EE. UU., por otro lado, describió el enfoque regulatorio de la IA como estricto. El vicepresidente JD Vanc criticó el enfoque de la UE durante la cumbre, diciendo que el país no tomaría bien las regulaciones de IA más ligeras para las empresas tecnológicas de EE. UU.