El ex CEO de Google, Schmidt, insta a 'desconectar' los sistemas de IA en ciertas capacidades

- Eric Schmidt advierte que los sistemas de IA podrían mejorarse a sí mismos pronto, y su desarrollo no debería dejarse sin supervisión.
- Los expertos siguen divididos sobre los avances en IA: algunos temen por los riesgos existenciales de la IA, mientras que otros argumentan que la IA general está lejos de ser alcanzable.
- Schmidt se muestra cauteloso ante el estrechamiento de la brecha de IA entre EE. UU. y China, insta a una supervisión y a priorizar los valores democráticos para garantizar que EE. UU. lidere la carrera de desarrollo de IA.
El ex CEO de Google, Eric Schmidt, ha advertido a los desarrolladores de inteligencia artificial que controlen su techo de desarrollo. También destacó la importancia de que Estados Unidos gane la carrera de inteligencia artificial (IA) en curso contra China.
Hablando en el programa de ABC News This Week with George Stephanopoulos el domingo, Schmidt advirtió sobre el potencial de los sistemas de IA para operar de forma independiente e incluso mejorarse a sí mismos.
“Pronto podremos tener computadoras funcionando por su cuenta, decidiendo qué quieren hacer,” dijo Schmidt.
Schmidt: La IA no debería dejarse sin control
Schmidt reiteró los riesgos de una IA avanzada que se desarrolla sin control, señalando que los sistemas capaces de mejorarse a sí mismos presentan un peligro significativo.
“Cuando el sistema puede mejorarse a sí mismo, necesitamos pensar seriamente en desconectarlo,” dijo el ex CEO de Google.
Cuando Stephanopoulos preguntó a Schmidt si tales sistemas de IA podrían contrarrestar los esfuerzos para apagarlos, Schmidt respondió: “Bueno, en teoría, es mejor que alguien tenga la mano en el enchufe —metafóricamente.”
Mientras las preocupaciones sobre los riesgos existenciales de la IA crecen, algunos expertos argumentan que tales miedos están exagerados. El profesor Nick Jennings, vicerrector de investigación en el Imperial College London, está entre los que desestiman las predicciones del apocalipsis.
Jennings sostiene que, aunque la IA puede destacar en tareas específicas, crear sistemas con inteligencia similar a la humana en diversas áreas sigue estando muy lejos de las capacidades actuales de los científicos.
“Desarrollar IA que realice una tarea singular muy bien es alcanzable,,” explicó Jennings. “Pero construir una IA general que refleje la inteligencia humana en múltiples materias no es algo que podamos esperar en el futuro cercano.”
Opiniones divergentes sobre las amenazas de la IA
Mientras tanto, persisten las preocupaciones entre los principales investigadores de IA que advierten sobre los peligros planteados por objetivos mal definidos y medidas de seguridad inadecuadas. El profesor de la UC Berkeley, Stuart Russell, y el investigador postdoctoral Michael Cohen argumentan que los sistemas de IA poderosos podrían representar finalmente una amenaza existencial para la humanidad si se dejan sin control.
En un artículo de publicado en la revista Science, Russell y Cohen pidieron una supervisión más estricta del desarrollo de la IA. Enfatizaron la necesidad de que las empresas tecnológicas demuestren la seguridad de sus sistemas de IA antes de lanzarlos al mercado. Sin objetivos claros y salvaguardas robustas, los sistemas de IA avanzados podrían actuar en contra de los intereses humanos, argumentan.
“Si los objetivos de estas IAs entran en conflicto con los de los humanos, podría significar un desastre,, escribieron Russell y Cohen. Creen que las empresas tecnológicas deberían ser responsables de garantizar la seguridad de sus sistemas e identificar las “líneas rojas” críticas que la IA nunca debería cruzar.
Un creciente debate sobre la seguridad de la IA
El rápido ritmo de avance de la IA ya ha presentado desafíos, incluida la difusión de desinformación, la polarización social y el sesgo algorítmico. Las preocupaciones sobre la seguridad y la regulación aún no han seguido el ritmo del desarrollo de la tecnología.
Las observaciones de Schmidt reflejan la creciente urgencia entre los líderes de la industria para abordar estos desafíos. Expertos como Elon Musk han pedido durante mucho tiempo regulaciones preventivas para mitigar los riesgos de la IA.
Musk, quien una vez describió a la IA como “el mayor riesgo que enfrentamos como civilización,” advirtió que las autoridades han hecho poco para abordar sus peligros. De manera similar, el físico Stephen Hawking temía que lograr la singularidad, el punto en el que las máquinas superan la inteligencia humana, podría dejar a la humanidad incapaz de controlar sistemas de IA avanzados.
En su entrevista, Hawking argumentó que sin regulaciones, la IA podría convertirse “en lo mejor o en lo peor que le pueda pasar a la humanidad.”
Se intensifica la competencia de IA entre EE. UU. y China
Schmidt señaló que, aunque EE. UU. anteriormente tenía una ventaja sobre China en el desarrollo de IA, la brecha se ha reducido significativamente en los últimos seis meses. “China ha alcanzado un nivel de desarrollo notable,,” dijo, describiendo la situación actual como una carrera de altas apuestas entre las dos superpotencias.
“Hay un punto, quizás en el próximo año o dos, en el que los sistemas pueden comenzar a hacer su propia investigación. Se llaman científicos de IA, en oposición a los científicos humanos. Así que pasas de tener 1.000 científicos humanos a un millón de científicos de IA. Creo que eso aumenta la pendiente, y cuando te mueves a este ritmo, es muy difícil que tus competidores te alcancen,” comentó.
Schmidt cree que la próxima administración Trump priorizará la competitividad de EE. UU. en IA, lo que ve como un paso positivo. “Mientras se preserven los valores humanos,” dijo, “estaremos bien.”
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.

Florence Muchai
Florence ha estado cubriendo durante los últimos 6 años noticias sobre criptomonedas, juegos, tecnología e inteligencia artificial. Sus estudios de Ciencias de la Computación en la Universidad de Ciencias y Tecnología de Meru y Gestión de Desastres y Diplomacia Internacional en MMUST la dotan adecuadamente de habilidades lingüísticas, de observación y técnicas. Florence ha trabajado en VAP Group y como editora en varias casas de medios de criptomonedas.















