Contralor de NY usa ensayo de Amodei sobre 'ralentizar' para pedir pausa en la IPO de Anthropic

El Contralor de la ciudad de Nueva York (NYC), Mark Levine, ha solicitado a Anthropic que pause su IPO planeada mediante una carta dirigida al CEO de Anthropic, Dario Amodei.

Levine desea que la empresa primero aborde la seguridad y otros riesgos sin precedentes que plantea la IA antes de proceder con la IPO. Señaló un ensayo propio del CEO Dario Amodei, donde este instaba a la industria de la IA a reducir la velocidad.

La carta se sitúa mientras la empresa persigue una valoración cercana a $2 billones.

“Avanzar precipitadamente con su IPO”

Levine escribió que Anthropic no puede advertir al mundo sobre los peligros de la IA y correr hacia los mercados públicos al mismo tiempo. 

En la carta publicada el 14 de octubre, el Contralor escribió: "Escribo para instar a Anthropic a pausar su oferta pública inicial (IPO) planificada hasta que la empresa aborde de manera completa y transparente las preocupaciones sobre seguridad, gobernanza y ritmo de desarrollo de la inteligencia artificial (IA) que ha planteado".

Levine no es un observador neutral. Como contralor, actúa como asesor de inversión, custodio y fiduciario de los fondos de pensión de la ciudad de Nueva York, que poseen más de 325 mil millones de dólares en activos.

La oficina del Contralor indicó que sus fondos públicos de pensiones tienen una exposición de aproximadamente 7 millones de dólares en Anthropic a través de capital privado.

Aunque la participación es pequeña, sí le otorga al contralor la capacidad de presionar a la empresa antes de que cotice en bolsa.

Levine planteó preocupaciones sobre la estructura de la empresa. Señaló que Anthropic es una corporación de beneficio público de Delaware con un Trust de Beneficio a Largo Plazo. Según informes citados por Levine, la empresa podría otorgar a los fundadores y fideicomisarios un control concentrado. 

Argumentó que una brecha entre ese control y la responsabilidad ante los accionistas es difícil de aceptar dados los riesgos que Anthropic ya ha revelado.

Lo que realmente argumentaba el ensayo de Amodei

La carta de Levine se basa en el ensayo de Amodei titulada «Debemos regular la frontera», publicada el 12 de septiembre.

Amodei escribió: «Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA». Dijo que la mejora recursiva y un incidente de seguridad transsectorial lo habían convencido de que el campo necesita más precaución, no solo más inversión en seguridad.

En ese ensayo se propuso un plan de tres pasos, y el primero incorpora evaluadores externos con acceso similar al de los empleados para verificar las prácticas de seguridad. Anthropic afirma que ya se comprometió a ello por su cuenta.

El segundo exige coordinación entre empresas de IA en países democráticos; el tercero impulsa una coordinación global, incluso con gobiernos autoritarios.

Según Levin, la oferta pública inicial (IPO) está obstaculizando el trabajo que Amodei considera urgente.

Cuando se publicó el ensayo de Amodei, obtuvo apoyo en toda la industria, con Sam Altman de OpenAI y Elon Musk de xAI aceptando sus propuestas.

Una IPO valorada en 2 billones de dólares basada en un crecimiento del 45%

En una reunión privada previa a la IPO en San Francisco el miércoles 14 de octubre, Anthropic informó a sus inversores que su tercer trimestre los ingresos alcanzaron unos 16.8 mil millones de dólares, lo que supuso un aumento del 45 % respecto al trimestre anterior, y que había registrado un beneficio ajustado.

En el primer trimestre de este año, Anthropic registró ingresos por 4.700 millones de dólares, los cuales aumentaron significativamente en el segundo trimestre, cuando alcanzó aproximadamente 11.600 millones de dólares. Sin embargo, la compañía aún registró una pérdida operativa superior a 8.000 millones de dólares durante el período.

Esta vez, la compañía informó a sus inversores que había generado flujo de caja positivo al finalizar el tercer trimestre, una afirmación muy poco común en un sector que ha estado consumiendo grandes cantidades de efectivo.

Anthropic cuenta actualmente con más de 518.000 millones de dólares en compromisos planificados de infraestructura y capacidad de computación para la próxima década.

Este balance es el argumento alcista para una oferta pública inicial que podría superar los 2 billones de dólares y superar a su rival OpenAI, que apunta a debutar en los mercados públicos a principios de 2027. Anthropic presentó confidencialmente su borrador del formulario S-1 ante la SEC el 1 de junio.

Gobernanza y acuerdo con la Casa Blanca

Levine también descartó el reciente acuerdo entre la industria y el gobierno como demasiado superficial. Anthropic y otras cinco empresas firmaron lo que la carta denominaba un acuerdo moralmente vinculante con la Casa Blanca, el cual Levine consideró «insuficiente para abordar el momento actual».

Parte de las preocupaciones del contralor se ven amplificadas por los propios informes de Anthropic. La empresa advirtió en su borrador de la S-1 que la IA avanzada podría representar "riesgos catastróficos o existenciales para la humanidad, con factores de riesgo que ocupan unas 80 páginas, casi el doble de la longitud de la sección que describe el negocio.

Para resaltar aún más los riesgos que señala, Levine mencionó que el ensayo de Amodei se publicó después de que Jacob Coxon, exinvestigador de la empresa, renunciara el 9 de septiembre. 

Coxon citó preocupaciones existenciales como motivo de su salida de Anthropic, ya que afirmó que los insiders creen que la IA podría acabar con la humanidad a finales de esta década, dado el ritmo de desarrollo.

Una declaración del responsable de ciencia de alineación de la empresa, Evan Hubinger, situaba la probabilidad de que la IA mate a todos los humanos dentro de la década por encima del 10%.

La fecha exacta de la oferta pública inicial (IPO) no se ha compartido; sin embargo, los especuladores dicen que podría ser hasta después de las elecciones intermedias de noviembre en Estados Unidos, aunque se espera que la empresa cotice antes que OpenAI.