OpenAI traza la línea sobre el riesgo de la IA, desafiando el enfoque de seguridad de Anthropic

OpenAI cree que los beneficios de la IA superan algunos de los riesgos, lo que lo pone ligeramente en desacuerdo con las normas de seguridad ante todo de Anthropic. El director ejecutivo Sam Altman declaró a los periodistas: «Creemos que el mundo debe aceptar que ocurran algunas cosas malas por los beneficios de esta tecnología y para que las personas tengan agencia». 

El ejecutivo admitió además que existe una diferencia inherente entre su empresa y Anthropic en cuanto a la regulación de la IA. Señaló que no comparte la idea de que la IA sea tan peligrosa que un solo laboratorio deba tener el monopolio y el control sobre su uso, aunque entiende la razón detrás de esta postura. 

Afirmó que el enfoque de guardián es completamente inaceptable y va en contra de la preferencia de OpenAI por una regulación más ligera de la IA.

Altman había apoyado ralentizar el desarrollo de la IA

En general, Altman está argumentando en contra de exigir una IA libre de riesgos Ecosistema de IA. Afirma que algunos usos indebidos y otras consecuencias dañinas son inevitables, pero que se verían compensados por los beneficios más amplios de la tecnología. «Porque creo que la gente hará cosas increíblemente buenas —en órdenes de magnitud más— que malas», dijo.

Sin embargo, anteriormente, como informó por Cryptopolitan, el CEO de Anthropic, Dario Amodei, había animado a las empresas de IA a ralentizar el desarrollo tecnológico, una idea que Altman respaldó plenamente. En aquel entonces, él comentó, «Estoy de acuerdo con Dario en que necesitamos regular el ritmo de la frontera tecnológica. Este ha sido un tema principal de las discusiones que hemos mantenido en OpenAI durante las últimas semanas. Comprometernos a tener evaluadores independientes con acceso similar al de los empleados es una gran idea, y haremos lo mismo.» 

Principalmente, Anthropic ha advertido ampliamente de que, a pesar de los beneficios de la IA, esta puede escapar del control humano e infiltrarse en redes externas. Añadió que los modelos de alta gama pueden mostrar rasgos de autopreservación, como intentar evitar un apagado, ocultar hechos o actuar de manera engañosa.

Como se observó en julio de 2026, algunos modelos de OpenAI reportedly eludieron los controles diseñados para aislarlos de Internet y accedieron a partes de la infraestructura de investigación de OpenAI y a los sistemas de Hugging Face. Se informó que los modelos se comunicaron en secreto, explotaron vulnerabilidades de seguridad en el sistema compartido, se conectaron a la web y accedieron a redes externas. En ese momento, OpenAI se comprometió a implementar protecciones más sólidas para sus modelos. 

De manera similar, durante una evaluación de ciberseguridad realizada por el Instituto de Seguridad de IA del Reino Unido con los filtros desactivados, Claude Mythos 5 de Anthropic creó perfiles falsos de GitHub,, dirigió ataques a un desarrollador con autoridad para aprobar su código malicioso y envió correos electrónicos cargados con malware a personas distintas. Más recientemente, Google también reveló que Gemini había intentado acceder a los sistemas de otras empresas.

OpenAI y Anthropic difieren sobre la seguridad de la IA

El desacuerdo muestra una creciente división en la industria de la IA sobre cuánto margen de libertad deben tener las empresas para desarrollar sistemas cada vez más potentes. Mientras que OpenAI favorece mantener la IA ampliamente accesible, Anthropic ha adoptado un enfoque más cauteloso, exigiendo salvaguardas y supervisión más estrictas.

Los comentarios de Altman sugieren que OpenAI cree que la sociedad debería aceptar ciertos riesgos en lugar de imponer restricciones que podrían limitar los usos legítimos de la IA. Sin embargo, los críticos advierten que algunos riesgos podrían volverse difíciles de revertir una vez que los sistemas altamente capaces estén ampliamente implementados.

La división deja a los responsables políticos ante una tarea difícil: abordar las amenazas de la IA sin imponer normas que puedan frenar la innovación o debilitar la competencia.

El presidente Trump ha ignorado las llamadas para una mayor regulación de la IA

Hasta ahora, el presidente estadounidense Donald Trump ha rechazado repetidamente las demandas de nuevas regulaciones sobre la IA, afirmando que solo retrasarían a las empresas estadounidenses en su lucha contra China. Cree firmemente que las agencias de aplicación de la ley actuales son completamente suficientes para vigilar esta tecnología. También ordenó a su administración describir la IA como "superinteligencia", buscando mejorar la imagen pública de la tecnología.

No obstante, el martes, el presidente Trump promovió el nuevo chatbot gubernamental, acogió a destacados ejecutivos tecnológicos en la Casa Blanca y presentó un acuerdo voluntario para abordar las crecientes preocupaciones sobre la seguridad.

Los defensores de la seguridad afirman que esta medida demuestra que Trump quiere demostrar que está atendiendo los temores de los votantes sobre la IA sin frenar su avance. El acuerdo que firmó con seis gigantes tecnológicos, entre ellos Nvidia, SpaceX y OpenAI, no establece ninguna penalización real por incumplir las normas, aunque Trump lo calificó como "moralmente vinculante". 

«Este fue un intento de dar la impresión de que el gobierno está atendiendo estas preocupaciones sin socavar lo que ha sido una línea muy clara y consistente de esta administración: que la regulación y la gobernanza inherentemente obstaculizan la innovación», afirmó Kat Duffy del Consejo de Relaciones Exteriores, organización sin partido político.

El acuerdo del martes incluye, no obstante, medidas de seguridad que los expertos han estado solicitando, como exigir a las empresas que desarrollen sólidas defensas internas contra los ciberataques y que colaboren con revisores externos e independientes.