Anthropic advierte que la IA construida por IA podría adelantar a la seguridad y desestabilizar los mercados
-
Claude generó más del 80 % del código de ingeniería de Anthropic hasta mayo de 2026, pero sigue necesitando supervisión humana.
-
Claude lideró el 26% de las tareas de investigación de IA en agosto, frente al menos del 1% en febrero.
-
Según Anthropic, ningún sistema de IA ha logrado un autoperfeccionamiento recursivo totalmente autónomo.
La inteligencia artificial está asumiendo más de las tareas necesarias para crear modelos más sólidos. Anthropic afirma que Claude ya está garantizando que el proceso se produzca más rápidamente, aunque aún no es capaz de crear un sucesor por sí solo. La compañía, en una evaluación del 4 de junio, señaló que el avance de la IA crea un riesgo de que la tecnología supere directamente los controles de seguridad y la supervisión reguladora.
Cuando la IA se construye a sí misma y lo que aún no significa
Sin embargo, Claude aún no ha alcanzado el nivel de mejora recursiva propia, en el que una IA crearía y entrenaría a su sucesor sin requerir intervención humana. Según Anthropic, ningún sistema ha logrado esta capacidad todavía.
Claude ha sido capaz de gestionar gran parte de los esfuerzos de programación de Anthropic, incluso sin tener autonomía plena. Para mayo de 2026, Claude había creado más del 80 % del código que los ingenieros aportaron a los proyectos de software de la empresa. En el segundo trimestre de 2026, un ingeniero típico contribuyó con ocho veces más código por día que en 2024.
Esas cifras muestran cuánto ha crecido la producción de código, pero no necesariamente cuánto trabajo útil se realiza. Una encuesta citada por METR de 349 trabajadores técnicos reveló un aumento mediano autodeclarado del 1,4–2 veces en el valor de su trabajo con herramientas de IA.
26% liderado por Claude, ninguno totalmente autónomo
Claude ahora hace más que escribir código. Las mediciones de Anthropic de agosto encontraron que lideró el 26% de las tareas de investigación y desarrollo de IA, frente a menos del 1% en febrero. Claude colaboró o lideró más del 90% del trabajo, pero los humanos permanecieron involucrados durante todo el proceso. Ninguno del trabajo medido fue completamente autónomo.
La investigación de Anthropic y la encuesta METR miden cosas distintas. Anthropic rastrea la generación de código y la investigación realizada con ayuda de sistemas de IA, mientras que METR mide cómo perciben los trabajadores los aumentos en el valor de su trabajo. Sin embargo, ninguno de estos estudios indica si la IA es capaz de determinar qué problemas de investigación deben resolverse.
Cómo esto podría acumularse sin que ningún modelo mejore a sí mismo
La IA no tiene que ser completamente autónoma para investigar más rápido. Según un informe de octubre de RAND, los agentes de IA pueden crear modelos más sólidos sin preocuparse por crear sus propios sucesores. Ya pueden representar una amenaza para la seguridad al tener acceso a modelos y códigos confidenciales.
Según los economistas de METR, podrían existir restricciones causadas por factores como la disponibilidad de datos, la capacidad de cómputo y la habilidad para llevar a cabo estudios experimentales. Sin embargo, no han descartado la idea de una aceleración sostenida en el desarrollo de la IA
La pregunta es si las revisiones independientes de seguridad podrían alcanzar el ritmo de los experimentos impulsados por IA. De lo contrario, la supervisión podría quedarse atrás mucho antes de que llegue la autonomía plena.
De marcar el ritmo en la frontera a vigilarla
Esa preocupación llevó al CEO de Anthropic, Dario Amodei, a pedir un desarrollo más lento y evaluadores independientes. En su ensayo de septiembre, escribió:
«Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA»
La divulgación del 16 de septiembre de OpenAI detalló seis casos de comportamiento preocupante del modelo. Cryptopolitan también informó sobre divisiones entre líderes tecnológicos respecto a si se debe frenar el desarrollo de la IA.
Pero estar de acuerdo en las preocupaciones de seguridad no garantiza la acción. CSIS advirtió que los evaluadores externos deben evitar conflictos de intereses. Los gobiernos también deben protegerse contra la captura regulatoria. Los acuerdos a nivel de la industria siguen siendo inciertos.
El dinero sigue al poder computacional
The debate also carries financial stakes. Stanford’s 2026 AI Index found private AI investment rose 127.5% in 2025. US investment was 23 times China’s. The OECD also warns that access to chips, cloud infrastructure, and data remains concentrated. This creates a paradox. AI may make research coding cheaper, but training and testing advanced models still require enormous investment. Faster development could therefore give leading laboratories an even greater advantage over smaller competitors.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Preguntas frecuentes
¿Qué es la mejora recursiva?
Es el punto en el que un sistema de IA puede diseñar y entrenar completamente a su sucesor sin intervención humana. Anthropic afirma que esa línea no se ha cruzado y no es inevitable.
¿Cuánto del código y la investigación de Anthropic gestiona Claude?
A mayo de 2026, Claude escribió más del 80 % del código fusionado en Anthropic, y para agosto de 2026 «dirigió» el 26 % de la investigación medida de la empresa, aunque ninguna área medida funcionó de forma totalmente autónoma.
¿Qué propuso Dario Amodei?
En su ensayo del 12 de septiembre, el director ejecutivo de Anthropic pidió a los laboratorios que regularan la frontera tecnológica, reduciendo las ganancias de capacidad sin detener el entrenamiento, comenzando con evaluadores externos integrados como METR, además de la coordinación entre laboratorios y gobiernos de países democráticos.
Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Ashish Kumar
Ashish Kumar es periodista especializado en criptomonedas y finanzas con ocho años de experiencia en redacciones. Cubre lo que ocurre en los mercados de criptomonedas, la regulación, DeFi y los ecosistemas de exchanges. Ha trabajado en Coingape, Todayq y Newsroompost. Ashish posee un PGDP en Periodismo Inglés del IIMC. También ha entrevistado a figuras del sector como Arthur Hayes, Yat Siu, Austin Federa y más.
