ÚLTIMAS NOTICIAS
SELECCIONADO PARA TI

¿Giro de 180 grados de Anthropic en materia de IA? Amodei rechaza las afirmaciones sobre la prohibición de modelos abiertos

PorAshish KumarAshish Kumar
4 minutos de lectura
¿Giro de 180 grados de Anthropic en materia de IA? Amodei rechaza las afirmaciones sobre la prohibición de modelos abiertos
  • Dario Amodei, de Anthropic, afirmó que la compañía nunca ha intentado prohibir los modelos de IA de peso abierto.
  • En cambio, pidió controles más estrictos a la exportación de chips, normas contra la destilación y pruebas de seguridad obligatorias para la IA.
  • El debate surge en un momento en que los legisladores estadounidenses consideran normas que podrían transformar el futuro de la IA de código abierto.

Dario Amodei, director ejecutivo de Anthropic, declaró el lunes que la empresa nunca ha intentado prohibir los modelos de IA de peso abierto, una refutación dirigida a los reguladores que están considerando nuevas regulaciones y a los competidores que afirman que Claude ha utilizado dilemas de seguridad para defenderse.

Esta aclaración es importante dado que Washington está definiendo el alcance de la implementación de las regulaciones. El Senado ha presentado un proyecto de ley que podría establecer un límite federal para los modelos de peso abierto, una categoría de modelos que los desarrolladores pueden descargar y usar en sus máquinas. El resultado del debate influirá en qué laboratorio obtendrá una ventaja competitiva, a qué tipo de modelos tendrán acceso las empresas en el mercado y en qué medida los distintos proveedores de modelos cerrados lo dominarán.

Los puntos de estrangulamiento que Amodei quiere que se regulen

En su publicación de blog, Amodei no pidió una prohibición total, sino que propuso tres sugerencias más específicas para los responsables políticos. En primer lugar, aboga por una regulación más estricta de la tecnología avanzada de chips y dispositivos informáticos enviados a naciones autoritarias como China. También exige que se prohíba rigurosamente la "destilación" industrial, que consiste en entrenar un nuevo modelo con los resultados de uno más avanzado. Por último, solicita que se realicen pruebas obligatorias a los modelos potentes para garantizar su seguridad.

Según Amodei, la prohibición solo desviaríatracdel peligro real, ya que, como él mismo afirmó, «es improbable que los actores malintencionados sean empresas estadounidenses legítimas». Amodei admitió a Axios que prohibir el software de código abierto chino debería ayudar a evitar la competencia de laboratorios como el suyo, pero sostuvo que «ese nunca ha sido mi objetivo». Como señaló Bloomberg Law, su principal preocupación radica en que los estados autoritarios desarrollen inteligencia artificial superior a los productos estadounidenses.

La carta que Anthropic no firmaría

La iniciativa surgió como respuesta a un importante rechazo público. Según informes, más de dos docenas de empresas, entre ellas Nvidia, Meta y Microsoft, firmaron una carta previa titulada "Open Weights y el liderazgo estadounidense en IA", en la que solicitaban a los legisladores que no impusieran restricciones a la tecnología, según Business Insider. Durante el fin de semana, OpenAI, Google y SpaceX se unieron al grupo, por lo que, para el lunes, Anthropic era la única gran empresa que no lo había hecho.

Silicon Valley se ha dado cuenta. David Sacks, el inversor de capital riesgo y exasesor de IA de la administración Trump, ha alertado a la industria en X de que debe "vigilar a estos tipos como un halcón"

Por su parte, Bill Gurley, de Benchmark, afirmó que Anthropic estaba ocultando su "estrategia económica corporativa". Kai-Fu Lee, fundador de la startup china de modelo abierto 01.AI, declaró que la persona que no firmó era "mucho más interesante que la que sí lo hizo"

De una preocupación compartida por China a una división pública

La división es más reciente que el problema subyacente. Cryptopolitan informó que los competidores de modelos cerrados llevan tiempo uniéndose en Washington para enfrentarse entre sí. En julio, Axios observó cómo OpenAI y Anthropic unieron fuerzas para concienciar a los legisladores sobre los poderosos modelos chinos de ponderación abierta, una postura que ha suscitado críticas de personas como Sacks, quienes la atacan como un posible caso de captura regulatoria que consolidaría la influencia de las grandes empresas.

El detonante del debate fue Kimi K3, un modelo de peso abierto desarrollado por la startup china Moonshot, que rivalizaba con los modelos estadounidenses a un precio mucho menor. Algunos acusaron a Moonshot de utilizar el modelo Fable de Anthropic para entrenar a Kimi K3 mediante un proceso llamado destilación, y el secretario del Tesoro, Scott Bessent, propuso sanciones contra los modelos chinos que copiaran a los estadounidenses. Tras esto, OpenAI y Google, los dos mayores competidores de Anthropic, firmaron una carta abierta, dejando a Anthropic en paz y planteando dudas sobre si Anthropic buscaba una prohibición para defender sus intereses comerciales.

Lo que Amodei admitió y lo que rechazó

Amodei intentó mantener un delicado equilibrio. Reconoció que los modelos abiertos mejoran la accesibilidad, fomentan la competencia y otorgan el control a los clientes; incluso calificó los modelos abiertos sin capacidades riesgosas como un «bien público». Sin embargo, rechazó la afirmación clave sobre seguridad de la carta, alegando que no cree que los pesos abiertos permitan a los defensores construir defensas fácilmente ni que un mayor acceso sea más útil para los defensores que para los atacantes. En su opinión, cualquier modelo capaz puede convertir virus de nivel pandémico en armas, mientras que crear una defensa lleva mucho tiempo.

Actualmente, la división es la másdent en la industria. Nvidia aprovechó la ocasión para anunciar la formación de la Open Secure AI Alliance, con el apoyo de Microsoft, SpaceX, Hugging Face, entre otros, argumentando que las tecnologías abiertas están protegidas por ley y que una prohibición total otorgaría demasiado poder a unos pocos proveedores cerrados. Ahora la responsabilidad recae en los legisladores, quienes aún deben desarrollar estándares que determinen la respuesta a las preguntas planteadas anteriormente.

 

Las mentes más brillantes del mundo de las criptomonedas ya leen nuestro boletín. ¿Te apuntas? ¡ Únete!

Preguntas frecuentes

¿Por qué Anthropic se negó a firmar la carta sobre pesos abiertos?

Anthropic declinó unirse a la carta "Pesos abiertos y liderazgo estadounidense en IA" porque Amodei rechaza su afirmación de que los modelos abiertos necesariamente hacen que la IA sea más segura o dan a los ciberdefensores una ventaja sobre los atacantes, una postura que, según los críticos, también protege su negocio de modelos cerrados.

¿Por qué Anthropic se negó a firmar la carta sobre pesos abiertos?

Anthropic declinó unirse a la carta "Pesos abiertos y liderazgo estadounidense en IA" porque Amodei rechaza su afirmación de que los modelos abiertos necesariamente hacen que la IA sea más segura o dan a los ciberdefensores una ventaja sobre los atacantes, una postura que, según los críticos, también protege su negocio de modelos cerrados.

¿Qué quiere Amodei que hagan los reguladores en lugar de prohibirles la entrada?

Pidió tres políticas más específicas: controles más estrictos sobre los chips avanzados que llegan a gobiernos autoritarios, una represión contra la destilación de modelos a escala industrial y pruebas de seguridad obligatorias para los modelos suficientemente capaces, ya sean abiertos o cerrados.

¿Qué desencadenó el debate sobre la IA de ponderación abierta?

El debate se intensificó después de que Kimi K3, un modelo chino de peso libre de Moonshot, alcanzara un rendimiento similar al de los modelos de vanguardia estadounidenses a una fracción del coste, lo que provocó acusaciones de manipulación por parte de la Casa Blanca y conversaciones sobre sanciones a los modelos chinos de peso libre.

Comparte este artículo

Aviso legal. La información proporcionada no constituye asesoramiento comercial. Cryptopolitanconsultar no se responsabiliza de las inversiones realizadas con base en la información proporcionada en esta página. Recomendamostronencarecidamente realizar una investigación independientedent un profesional cualificado antes de tomar cualquier decisión de inversión.

Ashish Kumar

Ashish Kumar

Ashish Kumar es periodista especializado en criptomonedas y finanzas, con ocho años de experiencia en redacciones. Cubre la actualidad de los mercados de criptomonedas, la regulación, DeFiy los ecosistemas de intercambio. Ha colaborado con Coingape, Todayq y Newsroompost. Ashish cuenta con un posgrado en Periodismo en Inglés del IIMC. También ha entrevistado a figuras destacadas del sector, como Arthur Hayes, Yat Siu, Austin Federa y otros.

MÁS… NOTICIAS