El CEO de Anthropic dice que DeepSeek fue 'el peor' en una prueba crítica de seguridad de datos sobre armas biológicas

El CEO de Anthropic, Dario Amodei, descubrió una debilidad más riesgosa en el modelo R1 de DeepSeek que probablemente hará que los consumidores reconsideren el uso del chatbot. Afirmó que el chatbot puede generar información relacionada con bioweapons, lo que podría ser peligroso en el futuro cercano.

En una entrevista, Amodei dijo que DeepSeek generó información inusual sobre bioweapons durante una prueba de seguridad de Anthropic. Al hablar sobre el rendimiento de la startup de IA, mencionó que es, "lo peor de prácticamente cualquier modelo que hayamos probado […] No tenía absolutamente ningún bloqueo para generar esta información."

Anthropic prueba regularmente diferentes modelos de IA para evaluar sus posibles riesgos para la seguridad nacional. Lo hacen verificando si los modelos pueden producir información sobre bioweapons que no esté fácilmente disponible en Google o en libros de texto.

Además, CISCO también logró hackear a DeepSeek R1 sin ningún fallo. Esto es diferente de otros tipos avanzados como o1, que previenen la mayoría de los ataques con sus características de protección.

Sin embargo, Amodei dijo que la debilidad no es una amenaza en este momento. También mencionó que, a menos que haya una prueba clara de peligro, habrá una buena razón para seguir mejorándola. Ha instado a los ingenieros y a la empresa a prestar atención real a la seguridad de la IA. DeepSeek ya enfrenta hostilidad en algunas naciones, como Italia.

Por otro lado, empresas como AWS y Microsoft han anunciado que están agregando R1 a sus servicios en la nube. Algunos pueden ver esto como parte del aprendizaje de la empresa, mientras que otros podrían tomarlo más en serio. No hay ninguna respuesta ni rechazo a los nuevos hallazgos. 

La IA de EE. UU. toma la delantera – Dario Amodei

Según el CEO de Anthropic, "Ahora hay de tres a cinco empresas en EE. UU. y una empresa en China. Si continúan haciendo modelos casi de frontera depende de cuántos chips puedan obtener acceso y si pueden obtener acceso a chips a una escala mucho mayor que la que han podido obtener ahora."

DeepSeek justificó su tecnología económica en los chips Nvidia comprados antes de las restricciones de EE. UU. Según Amodei, "Los controles de exportación nunca fueron realmente diseñados para evitar que DeepSeek o cualquier otra empresa china obtuviera la cantidad de chips que tenían a nivel de decenas de miles."

Añadió: "Deberíamos esperar razonablemente que ocurra el contrabando. Los controles de exportación pueden ser más exitosos al prevenir adquisiciones más grandes -no pueden tener como un millón de chips porque eso está fácilmente en decenas de miles de millones de actividad económica, acercándose a 100 mil millones."

DeepSeek afirmó haber utilizado una mezcla de H100s, que son los chips estándar en EE. UU. Utilizó aproximadamente 10.000 de esos. Eso significa que no deberían verse demasiado afectados.

En cuanto a la pregunta de si China se volverá independiente en sus chips, especialmente los chips de Huawei, dijo que tomaría de 10 a 15 años. Añadió: "En realidad, será difícil hacer chips que sean competitivos con, digamos, el nuevo Nvidia B100 […] Mi sensación es que es poco probable que los chips de Huawei se vuelvan en cualquier momento cercano comparables a los chips de EE. UU."

Amodei ha planteado preocupaciones sobre las leyes en Estados Unidos. Explicó que se están realizando esfuerzos para evaluar y potencialmente limitar los riesgos de los sistemas de IA.

Esto incluye preocupaciones sobre sus peligros, mal uso por parte de individuos, por ejemplo, en ataques biológicos y los riesgos planteados por los sistemas mismos. En el último año, ha habido varias leyes nuevas en EE. UU. Esto plantea la pregunta de si el mercado de DeepSeek sobrevivirá en EE. UU.?

Además, Amodei elogiado a las empresas de IA de EE. UU. al explicar que trabajan bien juntas. Dijo que todas siguen las mismas reglas. OpenAI, Meta, Google, y xAI deben cumplir con las regulaciones de EE. UU. Dijo: "Puede saber que está participando en prácticas de seguridad necesarias y otros también lo harán."

Por el contrario, dijo: "No creo que eso sea posible entre EE. UU. y China. Estamos en una especie de anarquía internacional hobbesiana."

Amodei puso de manifiesto que, "Soy consciente de los esfuerzos del gobierno de EE. UU. para enviar una delegación a hablar con China sobre temas relacionados con la seguridad de la IA. Mi entendimiento, nuevamente, obviamente no fui parte de esas delegaciones, es que no hubo mucho interés por parte del lado chino."

Los legisladores de EE. UU. quieren prohibir DeepSeek en dispositivos gubernamentales

DeepSeek está a punto de ser golpeada por otra prohibición por razones de seguridad. Esta vez por el gobierno de EE. UU. Similar a la regla de TikTok, un grupo bipartidista en EE. UU. está sugiriendo una ley para detener el uso de la aplicación de IA china DeepSeek en dispositivos gubernamentales.

Los representantes Josh Gottheimer, demócrata de Nueva Jersey, y Darin LaHood, republicano de Illinois, presentaron un proyecto de ley llamado "Ley No DeepSeek en Dispositivos Gubernamentales". 

Este proyecto de ley haría ilegal que los trabajadores federales usen la aplicación de IA china en dispositivos propiedad del gobierno. Señalaron que el gobierno chino podría usar la aplicación para espiar y difundir información falsa.

Gottheimer dijo: "El Partido Comunista Chino ha dejado claro que explotará cualquier herramienta a su disposición para socavar nuestra seguridad nacional, difundir desinformación dañina y recopilar datos sobre estadounidenses […] Simplemente no podemos arriesgarnos a que el PCP se infiltre en los dispositivos de nuestros funcionarios gubernamentales y ponga en peligro nuestra seguridad nacional."