Anthropic, OpenAI y Google sopesan la creación de un organismo común de estándares de IA

Según un informe de The Information, Anthropic, OpenAI y Google han conversado sobre la posibilidad de crear un organismo colaborativo de estandarización industrial. Esto brindaría a los laboratorios de vanguardia más importantes la oportunidad de establecer los estándares de seguridad con los que se evaluarán sus propios modelos.

Para las empresas que evalúan si utilizar o no modelos de vanguardia para tareas delicadas, la introducción de estándares comunes aumentaría su certeza sobre la adopción. Sin embargo, este mismo marco podría beneficiar a las grandes empresas. La OCDE ya advirtió que los altos costos fijos, la falta de recursos informáticos y la infraestructura concentrada dificultan la entrada de las empresas al mercado de la IA. Los costos de cumplimiento podrían añadir otro obstáculo al que se enfrentan los laboratorios más pequeños.

Las propuestas que ya están sobre la mesa

El 14 de julio, Demis Hassabis, director de Google DeepMind, propuso una iniciativa para la creación de un organismo de estándares de IA de vanguardia con sede en EE. UU., inspirado en la Autoridad Reguladora de la Industria Financiera (FINRA).

En su propuesta, los laboratorios de vanguardia presentarían voluntariamente sus tecnologías avanzadas para su evaluación, con un período de evaluación de 30 días antes de su lanzamiento. Los evaluadores analizarían la seguridad de las tecnologías para garantizar que no presenten riesgos, como amenazas cibernéticas, biológicas o de manipulación.

El Consejo de Relaciones Exteriores (CFR) informó que la Casa Blanca ya estaba sopesando la idea presentada por Hassabis. Según su propuesta, solo sería obligatorio pasar el proceso de evaluación en una etapa posterior para poder desplegar tecnologías de vanguardia en Estados Unidos.

En su artículo de septiembre titulado «Debemos marcar el ritmo de la frontera», Dario Amodei, director ejecutivo de Anthropic, aborda el problema desde una perspectiva diferente. Según él, es necesario dar más tiempo a los esfuerzos de seguridad para que se pongan al día con las capacidades de la IA. La solución que propone Amodei es permitir que evaluadores independientesdent METR visiten laboratorios de vanguardia durante períodos prolongados, lo que allanará el camino para la colaboración entre las principales empresas de IA de estados democráticos en materia de estándares de seguridad.

Por qué este no es el primer intento

Es importante destacar que las organizaciones de seguridad lideradas por la industria existen desde hace tiempo. De hecho, en 2023, el Frontier Model Forum se unió a seis importantes empresas de IA como parte del esfuerzo para establecer un programadent de investigación en seguridad a través del Fondo de Seguridad de la IA, dotado con más de 10 millones de dólares.

La Fundación Agentic AI se creó en diciembre de 2025 como parte de la Fundación Linux y tiene como objetivo desarrollar estándares e infraestructura abiertos para agentes de IA. Entre los proyectos que dieron origen a la fundación se encuentran el Protocolo de Contexto de Modelos de Anthropic, el proyecto Goose de Block y AGENTS.md de OpenAI.

OpenAI colaboró ​​en la creación de la Fundación Appia, que se estableció en junio de 2026 con 13 miembros. La fundación tiene como objetivo convertir los principios generales de la gobernanza de la IA en especificaciones, pruebas y comprobantes de cumplimiento, que se utilizarían en toda la cadena de suministro de la IA.

La necesidad de coordinación también se observa más allá de las organizaciones del sector. Según informa Cryptopolitan, el director de asuntos globales de OpenAI, Chris Lehane, insistió en que Estados Unidos y China deberían apoyar el marco global de seguridad de la IA, comparando esta iniciativa con la cooperación nuclear internacional.

El problema del foso que nadie ha resuelto

El problema fundamental es la independencia. Según el análisis del CFR, un regulador financiado por el sector podría enfrentarse a conflictos similares a los observados en el caso del sistema de calificación crediticia de pago por emisor antes de la crisis financiera de 2008, lo que plantea una serie de interrogantes sin respuesta con respecto al acceso del regulador a modelos de vanguardia, la pericia de los evaluadores, las medidas de seguridad nacional y la fiabilidad de los métodos de evaluación actuales.

La capacidad es otro desafío. Una proyección proporcionada por GovAI indica que entre 14 y 16 modelos en los años comprendidos entre 2025 y 2028 podrían tener una magnitud similar a la del mayor programa de entrenamiento realizado hasta la fecha, lo que significa que se requiere una capacidad de revisión continua en lugar de evaluaciones periódicas.

La competencia también es importante. Los estándares establecidos principalmente por los laboratorios más grandes pueden convertirse en costos fijos, más fáciles de mantener para las empresas consolidadas que para las nuevas. Si un marco voluntario se convierte en un requisito obligatorio, es necesario introducir mecanismos que impidan que el cumplimiento de las normas de seguridad funcione como una barrera de entrada al mercado.

Todo lo que se cree debe estar en consonancia con Europa. El Código de Buenas Prácticas de IA de Propósito General de la Unión Europea, introducido en julio de 2025 como vía voluntaria para demostrar el cumplimiento de la Ley de IA, ya cuenta con Anthropic, Google, Microsoft y OpenAI como signatarios. Por lo tanto, cualquier nuevo organismo de normalización estadounidense o liderado por la industria tendría que integrarse en un marco regulatorio ya saturado, en lugar de crear uno propio.