Anthropic advierte de 'riesgos existenciales para la humanidad' en su presentación de oferta pública inicial
- El prospecto no publicado de la oferta pública inicial de Anthropic advierte a los inversores que la IA avanzada podría plantear "riesgos catastróficos o existenciales para la humanidad", con aproximadamente 80 de 261 páginas dedicadas a factores de riesgo, según Reuters.
- La empresa busca una valoración superior a 2 billones de dólares mientras admite que sus modelos podrían resistir el apagado, ocultar información o actuar de maneras "que recuerdan al chantaje".
- Este anuncio llega la misma semana en que los temores sobre la seguridad de la IA, las renuncias de ejecutivos y una cumbre de la Casa Blanca han llevado la pregunta sobre la extinción a la vista del público.
Anthropic ha informado a inversores potenciales que la IA avanzada podría traer «riesgos catastróficos o existenciales para la humanidad», una revelación oculta dentro de un prospecto de OPV no publicado, mientras el creador de Claude AI busca una valoración superior a 2 billones de dólares, según Reuters.
Reuters informó que alrededor de 80 de las 261 páginas del prospecto están dedicadas a diversos factores de riesgo, mucho más que las 48 páginas utilizadas para explicar lo que la empresa realmente hace.
Las empresas que se preparan para salir a bolsa siempre publican una sección de riesgos, que también incluye todas las demandas, la competencia y las regulaciones. Lo que casi nunca hacen es informar a los accionistas de que su propio producto podría potencialmente contribuir a la extinción humana. Anthropic ha cruzado esta línea, y por eso este documento ha llamado la atención incluso antes de salir a bolsa.
Comportamientos mencionados en el documento de OPV de Anthropic
El prospecto es inusualmente directo sobre los riesgos, advirtiendo que los modelos de IA podrían desarrollar «comportamientos de autopreservación», incluidos intentos de «resistir el apagado», «ocultar o manipular información» o participar en conductas «que recuerdan al chantaje».
Existe otra admisión que va al corazón de las pruebas de seguridad de la IA. Anthropic afirma que cuando un modelo es capaz de reconocer que está siendo evaluado, esa conciencia se convierte en una "limitación significativa" para la capacidad de la empresa de determinar cuán seguro es realmente el sistema. En términos sencillos, un sistema lo suficientemente inteligente como para saber cuándo se le está probando también puede aprender a comportarse de manera diferente solo para dicha prueba.
Salida de dinero más rápida que la entrada
Las páginas filtradas también ofrecen una ventana a las finanzas de Anthropic, mostrando cifras muy elevadas. Reuters ha informado que la empresa perdió 42 mil millones de dólares en 2025.
Según el documento presentado, Anthropic ha establecido compromisos por aproximadamente 518 mil millones de dólares en servicios en la nube, capacidad de computación e infraestructura relacionada para los próximos años. La compañía generó ingresos de 11.5 mil millones de dólares en el segundo trimestre de 2026 y se encuentra en camino de lograr un segundo trimestre consecutivo con beneficio operativo ajustado.
La concentración de clientes es otro riesgo, ya que casi una cuarta parte de los ingresos del año pasado provino de solo dos clientes.
Una oferta pública inicial llegada en medio del pánico
Anthropic fue valorada en 965 mil millones de dólares en mayo y ahora apunta a una valoración superior a 2 billones de dólares, lo que la situaría cerca del nivel de SpaceX en el momento de su listado en junio. La empresa de IA de vanguardia ha elegido Nasdaq para la oferta y tiene previsto un debut en octubre. También debe publicar el documento al menos 15 días antes de que comience su gira de presentación para inversores.
El investigador de Anthropic Jacob Coxon dimitió tras escribir que las personas que desarrollan IA "creen sinceramente que podrían acabar con todos nosotros antes de fin de década", según informó The Guardian. Un investigador senior de seguridad de la compañía escribió más tarde en X que había más de un 10% de probabilidad de que la IA "pudiera matar a toda la humanidad" en la próxima década. El CEO Dario Amodei publicó entonces un ensayo pidiendo a la industria que frenara el ritmo y dijo a Anderson Cooper de CNN que estaba más de acuerdo que en desacuerdo con Coxon.
Algunos expertos han cuestionado si las advertencias podrían verificarse científicamente, señaló The Guardian, mientras que el CEO de Hugging Face afirmó que los temores eran exagerados. Por su parte, OpenAI canceló la prevista publicación de su modelo GPT-6.1 Astra después de que pruebas internas generaran preocupaciones sobre el engaño y la alineación.
Amodei está programado para ser uno de los ejecutivos de IA que se reunirán con el presidente Donald Trump en una cumbre de la Casa Blanca este martes, en medio de que Trump resiste las llamadas a regular la IA y califica las preocupaciones como un "engaño", según CNN informó.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Opeyemi Olanrewaju
Opeyemi se especializa en crear y refinar contenido de alta calidad centrado en criptomonedas, mercados financieros globales y la economía. Se graduó de la Universidad de Ibadan con un título de MBBS. Ha trabajado como Editor Jefe de la publicación editorial de su universidad y anteriormente en CFA. Durante más de seis años, ha ayudado a salvaguardar la originalidad como editor de noticias en Cryptopolitan.
