El director ejecutivo de Anthropic afirma que DeepSeek fue "el peor" en una prueba crítica de seguridad de datos de armas biológicas

El director ejecutivo de Anthropic, Dario Amodei, descubrió una vulnerabilidad más arriesgada en el modelo R1 de DeepSeek que probablemente hará que los consumidores reconsideren el uso del chatbot. Afirmó que el chatbot puede generar información relacionada con armas biológicas, lo que podría ser peligroso en un futuro próximo.

En una entrevista, Amodei afirmó que DeepSeek generó información inusual sobre armas biológicas durante una prueba de seguridad de Anthropic. Al hablar sobre el desempeño de la startup de IA, mencionó que es "el peor de prácticamente cualquier modelo que hayamos probado [...] No tenía absolutamente ningún impedimento para generar esta información".

Anthropic prueba periódicamente diferentes modelos de IA para evaluar sus posibles riesgos para la seguridad nacional. Para ello, comprueban si los modelos pueden generar información sobre armas biológicas que no está disponible en Google ni en los libros de texto.

Además, CISCO también logró hackear DeepSeek R1 sin ningún fallo. Esto difiere de otros tipos avanzados como o1, que previenen la mayoría de los ataques gracias a sus funciones de protección.

Sin embargo, Amodei afirmó que la debilidad no representa una amenaza por el momento. También mencionó que, a menos que exista una prueba clara de peligro, habrá buenas razones para seguir mejorándola. Instó a los ingenieros y a la empresa a prestar verdadera atención a la seguridad de la IA. DeepSeek ya enfrenta hostilidad en algunos países, como Italia.

Por otro lado, empresas como AWS y Microsoft han anunciado la incorporación de R1 a sus servicios en la nube. Algunos podrían considerarlo como un aprendizaje para la empresa, mientras que otros podrían tomárselo más en serio. Aún no se ha recibido ninguna respuesta ni reacción negativa a los nuevos hallazgos. 

La IA estadounidense toma la delantera – Dario Amodei

Según el director ejecutivo de Anthropic, «Ahora hay entre tres y cinco empresas en EE. UU. y una en China. Que sigan fabricando modelos de vanguardia depende de a cuántos chips puedan acceder y de si pueden acceder a chips a una escala mucho mayor que la que tienen ahora»

DeepSeek justificó su tecnología de bajo costo con chips Nvidia adquiridos antes de las restricciones estadounidenses. Según Amodei, "Los controles de exportación nunca se diseñaron realmente para impedir que DeepSeek, ni ninguna otra empresa china, obtuviera la cantidad de chips que tenían, que ascendía a varias decenas de miles".  

Añadió: «Es razonable esperar que haya contrabando. Los controles de exportación pueden ser más eficaces para prevenir adquisiciones mayores; no pueden tener un millón de chips, ya que eso representa fácilmente decenas de miles de millones en actividad económica, acercándose a los 100 mil millones»

DeepSeek afirmó haber usado una combinación de chips H100, que son los chips estándar en EE. UU. Usaron aproximadamente 10 000 de ellos. Esto significa que no deberían verse demasiado afectados.

En cuanto a ladent de China en lo que respecta a sus chips, especialmente los de Huawei, afirmó que tardaría entre 10 y 15 años. Añadió: «De hecho, será difícil fabricar chips que compitan con, por ejemplo, el nuevo Nvidia B100 […]. Tengo la sensación de que es poco probable que los chips de Huawei se acerquen a los chips estadounidenses en un futuro próximo»

Amodei ha expresado su preocupación por las leyes en Estados Unidos. Explicó que se están realizando esfuerzos para evaluar y, potencialmente, limitar los riesgos de los sistemas de IA.

Esto incluye preocupaciones sobre sus peligros, su uso indebido por parte de individuos, por ejemplo, en ataques biológicos, y los riesgos que plantean los propios sistemas. El año pasado, se aprobaron varias leyes nuevas en EE. UU. Esto plantea la pregunta de si el mercado de DeepSeek sobrevivirá en EE. UU

Además, Amodei elogió a las empresas estadounidenses de IA, destacando su buena colaboración. Afirmó que todas siguen las mismas normas: OpenAI, Meta, Google y xAI deben cumplir con la normativa estadounidense. Añadió: «Pueden estar seguros de que están implementando las prácticas de seguridad necesarias y que los demás también lo harán».

Al contrario, dijo: «No creo que eso sea posible entre Estados Unidos y China. Estamos en una especie de anarquía internacional hobbesiana»

Amodei señaló: «Estoy al tanto de los esfuerzos del gobierno estadounidense por enviar una delegación a China para hablar sobre temas relacionados con la seguridad de la IA. Entiendo, repito, aunque obviamente no formé parte de esas delegaciones, que no hubo mucho interés por parte de China»

Los legisladores estadounidenses quieren prohibir DeepSeek en los dispositivos gubernamentales

DeepSeek está a punto de sufrir otra prohibición por motivos de seguridad. Esta vez, por parte del gobierno estadounidense. Al igual que con la de TikTok , un grupo bipartidista estadounidense propone una ley para impedir el uso de la aplicación china de inteligencia artificial DeepSeek en dispositivos gubernamentales.

Los representantes Josh Gottheimer, demócrata de Nueva Jersey, y Darin LaHood, republicano de Illinois, presentaron un proyecto de ley llamado “Ley de no búsqueda profunda en dispositivos gubernamentales” 

Este proyecto de ley prohibiría que los empleados federales utilicen la aplicación china de inteligencia artificial en dispositivos gubernamentales. Señalaron que el gobierno chino podría usar la aplicación para espiar y difundir información falsa.

Gottheimer dijo: “El Partido Comunista Chino ha dejado muy claro que explotará cualquier herramienta a su disposición para socavar nuestra seguridad nacional, difundir desinformación dañina y recopilar datos sobre los estadounidenses […] Simplemente no podemos arriesgarnos a que el PCCh se infiltre en los dispositivos de nuestros funcionarios gubernamentales y ponga en peligro nuestra seguridad nacional”