DeepSeek informará al Consejo de Seguridad de la ONU sobre los riesgos de la IA junto con OpenAI y Anthropic
- DeepSeek ha sido invitado a presentar ante el Consejo de Seguridad de la ONU los riesgos de la inteligencia artificial en una sesión del miércoles, junto al director ejecutivo de OpenAI, Sam Altman, y figuras clave de Anthropic.
- Los desarrolladores chinos de IA de vanguardia han mantenido generalmente silencio sobre la seguridad de la IA, pero esa postura está cambiando al ser convocados por primera vez a un foro internacional de seguridad.
- La reunión se produce mientras Washington y Pekín mantienen abiertas disputas sobre si el desarrollo de la IA debe ralentizarse.
La startup china de IA DeepSeek ha sido invitada a informar al Consejo de Seguridad de la ONU sobre los riesgos de la inteligencia artificial en una sesión el miércoles 23 de septiembre, lo que lleva a uno de los principales desarrolladores de IA de China a un foro centrado en la seguridad internacional.
El consejo de 15 miembros se reunirá en Nueva York durante la semana de alto nivel anual de la Asamblea General de la ONU. Se espera que el CEO de OpenAI, Sam Altman, haga una aparición, y también se espera la asistencia de altos representantes de Anthropic, según Reuters. Se informa que el fundador de DeepSeek, Liang Wenfeng, no planea asistir.
DeepSeek entra en un tipo diferente de debate sobre IA
El Consejo de Seguridad normalmente se centra en las amenazas a la paz y la seguridad internacionales, por lo que llevar a los desarrolladores de DeepSeek junto con algunos de los modelos de IA más avanzados del mundo a las conversaciones coloca firmemente la tecnología en debates sobre la seguridad global.
Tampoco es la primera vez que el consejo discute la IA. Los miembros mencionaron inicialmente el tema en 2023, cuando China advirtió que la IA no debería convertirse en un “caballo desbocado”, mientras que EE. UU. advirtió contra el uso de la tecnología para censurar o suprimir a las personas.
El debate se ha vuelto más dividido, con el CEO de Anthropic, Dario Amodei, pidiendo recientemente una desaceleración coordinada en el desarrollo de IA de vanguardia, una posición respaldada por Elon Musk. El CEO de Meta, Mark Zuckerberg, y el CEO de Nvidia, Jensen Huang, por otro lado, han argumentado que el desarrollo de la IA debería continuar sin ningún tipo de desaceleración.
La gobernanza de la IA se convierte en otra línea de falla entre EE. UU. y China
Washington y Beijing siguen muy divididos y en desacuerdo sobre cómo debe gobernar la IA y qué tan rápido debe avanzar la tecnología, y la reunión del Consejo de Seguridad de la ONU llega justo en medio de este conflicto.
El Secretario General de la ONU, António Guterres, ha advertido que el rápido ritmo de desarrollo de la IA conlleva riesgos que no pueden ignorarse, mientras que el presidente de EE. UU., Donald Trump, ha argumentado que las salvaguardas existentes son suficientes.
Los medios estatales chinos han descrito las llamadas a una desaceleración como un “manual de la Guerra Fría” diseñado para mantener la dominación de EE. UU. en tecnología avanzada y mantener a Beijing fuera de la elaboración de normas globales de IA, como se informó anteriormente por Cryptopolitan.
Los dos lados también difieren en qué tan abiertamente discuten los riesgos de la IA. Los altos ejecutivos de IA chinos generalmente han dicho poco públicamente sobre la posibilidad de que sistemas cada vez más capaces engañen a los usuarios, se salgan del control humano o causen daños generalizados. Sus contrapartes de EE. UU., por el contrario, han sido mucho más vocales sobre esos riesgos.
Washington y Beijing aún están hablando
A pesar del desacuerdo sobre los estándares operativos centrales, los dos países continúan teniendo conversaciones a puerta cerrada sobre el tema.
El secretario del Tesoro de EE. UU., Scott Bessent, dijo el lunes que altos funcionarios de EE. UU. y China habían acordado celebrar más conversaciones sobre la seguridad de la IA. El acuerdo llegó después de una reunión previa a las conversaciones esperadas de Trump con el presidente chino Xi Jinping en Washington a finales de esta semana.
Estos desarrollos sitúan la aparición de DeepSeek en el Consejo de Seguridad en medio de un debate mucho más amplio que no solo involucra a empresas de IA, sino los enfoques competitivos de las dos mayores potencias tecnológicas del mundo en cuanto a los riesgos, las reglas y la dirección futura de la tecnología de IA.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Opeyemi Olanrewaju
Opeyemi se especializa en crear y refinar contenido de alta calidad centrado en criptomonedas, mercados financieros globales y la economía. Se graduó de la Universidad de Ibadan con un título de MBBS. Ha trabajado como Editor Jefe de la publicación editorial de su universidad y anteriormente en CFA. Durante más de seis años, ha ayudado a salvaguardar la originalidad como editor de noticias en Cryptopolitan.
