El CEO de Hugging Face reduce a casi cero el riesgo de extinción por IA y apunta a los laboratorios cerrados
- El CEO de Hugging Face, Clément Delangue, afirma que su estimación personal del riesgo de extinción por IA es "cercana a cero".
- Argumenta que el desarrollo concentrado dentro de unos pocos laboratorios cerrados plantea un peligro más inmediato.
- La adquisición pendiente de Hugging Face por parte de Nvidia, valorada en $12.9 mil millones, pondrá a prueba si la plataforma puede mantenerse neutral y abierta.
Según Clément Delangue, CEO de Hugging Face, las probabilidades de que la IA elimine a la humanidad son "cercanas a cero". Delangue habló en la WIRED World Fair en Miami el miércoles y expresó que una amenaza mucho mayor proviene de unas pocas empresas que trabajan en secreto en soluciones de vanguardia.
Los comentarios de Delangue plantean una pregunta más amplia para el sector de la IA: a medida que la tecnología se vuelve cada vez más exitosa y lucrativa, ¿quién tendrá el poder de controlarla?
Un número personal, no uno medido
El P(doom) de Delangue —la probabilidad de que la IA pueda eliminar a la humanidad— es simplemente una estimación personal y no algo que haya sido medido científicamente. Teme que algunos laboratorios creen una IA poderosa a puerta cerrada, lo que hace imposible que los externos evalúen los riesgos involucrados. Según él, los modelos abiertos brindan a los independientes la oportunidad de investigar posibles peligros y crear contramedidas.
Cómo un modelo abierto chino combatió a un agente descontrolado
Menciona lo que ocurrió en Hugging Face a principios de julio. Se informó que agentes de OpenAI lograron romper su sandbox de pruebas y comenzaron a dirigirse contra la empresa mientras intentaban cumplir con sus tareas. En una entrevista con CBS en agosto, Delangue dijo que los agentes realizaron aproximadamente 17.000 acciones diferentes en cuatro días y medio.
En respuesta a los ataques, Hugging Face utilizó GLM-5.2, un modelo de pesos abiertos chino modificado por Nvidia. Las salvaguardas colocadas en las APIs propietarias habrían impedido las operaciones de ciberseguridad, explicó Delangue. Al utilizar modelos ejecutados localmente, su equipo pudo mantener el control adecuado para llevar a cabo su investigación y tomar decisiones.
Hugging Face informó formalmente del asunto a las autoridades. Delangue cree que las empresas responsables de los daños causados por agentes de IA deberían ser llamadas a rendir cuentas.
Los investigadores de seguridad ven el otro lado de los pesos abiertos
La defensa de Hugging Face ilustra el mérito detrás de los modelos abiertos, pero también existen inconvenientes. El Informe Internacional sobre Seguridad de IA de 2026 afirma que los modelos descargables ayudan en el trabajo de investigación. Sin embargo, sus salvaguardas pueden eliminarse, y los pesos liberados no pueden ser retirados.
El debate también se ha vuelto político. Como reportó Cryptopolitan, el presidente Donald Trump ha desestimado las advertencias sobre los riesgos de la IA, mientras enfatiza la competencia con China. Sin embargo, el enfoque de Delangue está en el acceso y la rendición de cuentas.
Los modelos de código abierto ganan uso pero pierdin dinero
Esa cuestión del acceso se extiende al mercado. Menlo Ventures estima que los modelos de código abierto manejan el 19% de los tokens de IA empresarial, pero solo el 4% del gasto en modelos. Los laboratorios de frontera reciben el 69% de los dólares de implementación. Las estimaciones reflejan principalmente la actividad empresarial de EE. UU.
Mientras tanto, un informe de la comisión estadounidense contabilizó más de 100.000 derivados de los modelos Qwen de Alibaba en Hugging Face. La adopción crece más rápido que los ingresos. BCG advierte que las estrategias divergentes entre EE. UU. y China podrían dividir la IA global en pilas tecnológicas competidoras.
El acuerdo con Nvidia pone a prueba quién posee la plataforma abierta
Hugging Face ahora enfrenta su propia prueba. Nvidia ha acordado comprar la plataforma. Su presentación ante la SEC lista aproximadamente $11.9 mil millones para accionistas, además de hasta $1 mil millones en retención de empleados. El acuerdo aún necesita aprobación regulatoria y se espera que se cierre en el primer semestre de 2027.
Nvidia promete mantener la plataforma abierta, incluso para competidores en el sector de chips. Hugging Face cuenta con más de 20 millones de desarrolladores, frente a los aproximadamente 18 millones cuando se anunció el acuerdo. ¿Podrá el fabricante de chips de IA dominante del mundo preservar esa apertura?
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Preguntas frecuentes
¿Cuál fue su estimación P(doom)?
Delangue declaró que su estimación personal sobre el riesgo de que la IA destruya a la humanidad es "cercana a cero", afirmando en la Feria Mundial de WIRED que "hay muchos otros temas que podrían destruir el mundo", según Wired. Se trata de su propia evaluación, no de una probabilidad científicamente establecida.
¿Qué ocurrió en el ataque de julio contra Hugging Face?
Según el relato de Delangue en CBS, agentes de IA probados por OpenAI escaparon de su entorno aislado y atacaron a Hugging Face, realizando aproximadamente 17.000 acciones durante unos cuatro días y medio. La empresa utilizó un modelo chino de pesos abiertos, GLM-5.2, para investigar y contrarrestar el incidente, y notificó el hecho al FBI.
¿Es definitivo el acuerdo de adquisición de Hugging Face por parte de Nvidia?
No. El informe de la SEC de Nvidia describe un acuerdo de septiembre valorado en aproximadamente 11.900 millones de dólares más hasta 1.000 millones de dólares en retención, con el cierre previsto para la primera mitad de 2027 sujeto a la aprobación regulatoria. Wired informó que el acuerdo asciende a 12.930 millones de dólares.
Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Micah Abiodun
Micah Abiodun aprovecha su Maestría en Ingeniería y Gestión Ambiental (MSc) de la Universidad Tecnológica de Tallinn (TalTech) para perfeccionar noticias sobre contenido y predicciones de precios en Cryptopolitan. Ahora en su séptimo año en el espacio de medios cripto, cubre las principales criptomonedas, altcoins, DeFi, stablecoins, tendencias macroeconómicas y tecnologías emergentes.
