El ex director ejecutivo de Google, Schmidt, insta a "desconectar" los sistemas de IA en ciertas capacidades

El exdirector ejecutivo de Google, Eric Schmidt, advirtió a los desarrolladores de inteligencia artificial que controlen su límite de desarrollo. También destacó la importancia de que Estados Unidos gane la actual carrera de la inteligencia artificial (IA) contra China.

" de ABC News This Week with George Stephanopoulos el domingo, Schmidt advirtió sobre el potencial de los sistemas de IA para operar de forma independientedentincluso mejorarse a sí mismos. 

“Pronto podremos tener ordenadores funcionando por sí solos, decidiendo qué quieren hacer”, dijo Schmidt.

Schmidt: La IA no debe quedar sin control

Schmidt reiteró los riesgos de que la IA avanzada se desarrolle sin control y señaló que los sistemas capaces de automejorarse presentan un peligro significativo. 

“Cuando el sistema puede mejorarse a sí mismo, debemos plantearnos seriamente la posibilidad de desconectarlo”, dijo el ex director ejecutivo de Google.

Cuando Stephanopoulos le preguntó a Schmidt si esos sistemas de IA podrían contrarrestar los esfuerzos por desactivarlos, Schmidt respondió: "Bueno, en teoría, sería mejor que alguien estuviera a cargo, metafóricamente"

Si bien la preocupación por los riesgos existenciales de la IA va en aumento, algunos expertos sostienen que estos temores son exagerados. El profesor Nick Jennings, vicerrector de investigación del Imperial College de Londres, es uno de los que desestiman las predicciones apocalípticas. 

Jennings sostiene que, si bien la IA puede destacarse en tareas específicas, crear sistemas con inteligencia similar a la humana en diversas áreas aún está muy fuera de las capacidades actuales de los científicos.

“Desarrollar una IA que realice una tarea específica de manera excelente es posible”, explicó Jennings. “Pero crear una IA general que imite la inteligencia humana en múltiples áreas no es algo que podamos esperar en un futuro cercano”.

Opiniones divergentes sobre las amenazas de la IA

Mientras tanto, persisten las preocupaciones entre los principales investigadores de IA, quienes advierten sobre los peligros que representan los objetivos mal defiy las medidas de seguridad inadecuadas. El profesor de UC Berkeley Stuart Russell y el investigador postdoctoral Michael Cohen argumentan que los potentes sistemas de IA podrían, en última instancia, representar una amenaza existencial para la humanidad si no se controlan.

En un artículo de análisis publicado en la revista Science Journal, Russell y Cohen pidieron una supervisión más estricta del desarrollo de la IA. Hicieron hincapié en la necesidad de que las empresas tecnológicas demuestren la seguridad de sus sistemas de IA antes de lanzarlos al mercado. Argumentan que, sin objetivos claros ni garantías sólidas, los sistemas de IA avanzados podrían ir en contra de los intereses humanos.

«Si los objetivos de estas IA entran en conflicto con los de los humanos, podría ser catastrófico», escribieron Russell y Cohen. Consideran que las empresas tecnológicas deberían ser responsables de garantizar la seguridad de sus sistemas e identificardent«líneas rojas» críticas que la IA jamás debería cruzar.

Un debate creciente sobre la seguridad de la IA

El rápido avance de la IA ya ha presentado desafíos, como la propagación de desinformación, la polarización social y el sesgo algorítmico. Las preocupaciones sobre la seguridad y la regulación aún no han seguido el ritmo del desarrollo de la tecnología.

Las declaraciones de Schmidt reflejan la creciente urgencia entre los líderes de la industria por abordar estos desafíos. Expertos como Elon Musk llevan tiempo abogando por regulaciones preventivas para mitigar los riesgos de la IA. 

Musk, quien en su momento describió la IA como el “mayor riesgo al que nos enfrentamos como civilización”, advirtió que las autoridades han hecho poco para abordar sus peligros. De manera similar, el físico Stephen Hawking temía que alcanzar la singularidad, el punto en el que las máquinas superan la inteligencia humana, pudiera dejar a la humanidad incapaz de controlar sistemas avanzados de IA. 

En su entrevista, Hawking argumentó que sin regulaciones, la IA podría convertirse en “lo mejor o lo peor que le pueda pasar a la humanidad”

La competencia entre Estados Unidos y China en materia de inteligencia artificial se intensifica

Schmidt señaló que, si bien Estados Unidos aventajaba a China en el desarrollo de la IA, la brecha se ha reducido significativamente en los últimos seis meses. «China se ha puesto al día de una manera extraordinaria», afirmó, describiendo la situación actual como una carrera de alto riesgo entre las dos superpotencias.

“Llegará un punto, quizás en uno o dos años, en el que los sistemas podrán empezar a realizar sus propias investigaciones. Se les llama científicos de IA, en contraposición a los científicos humanos. Así que pasamos de tener 1000 científicos humanos a un millón de científicos de IA. Creo que eso acelera el proceso, y cuando se avanza a este ritmo, es muy difícil que la competencia nos alcance”, comentó.

entrante administración priorizará la competitividad de Estados Unidos en inteligencia artificial, lo cual considera un paso positivo. "Mientras se preserven los valores humanos", afirmó, "todo debería ir bien".