Altman describe tres finales de la IA: inspector, fusión o GPUs derretidas

La IA avanzada podría terminar en tres escenarios posibles, según Sam Altman de OpenAI: un inspector internacional al estilo de un organismo de vigilancia nuclear, una fusión de los laboratorios líderes en IA o una única empresa capaz de «derretir las GPUs de todos».

Los comentarios de Altman, publicados por The Information, llegan mientras OpenAI continúa buscando diferentes ventajas en los posibles escenarios finales de la IA, incluyendo ayudar a establecer un regulador de seguridad privado, conversaciones sobre ralentización que han provocado una demanda antimonopolio y una planneda recaudación de 30.000 millones de dólares vinculada a mantener su ventaja sobre el rival Anthropic. 

Altman ve que la IA avanzada termina de una de tres maneras

The Information informó que la predicción de Sam Altman sobre el futuro de la IA avanzada se resuelve en uno de tres escenarios. 

Dos de las tres vías terminan en concentración. En una de ellas, Altman ve a una empresa construyendo una ventaja tan grande que puede deshabilitar el hardware de sus rivales y desconectar por completo al resto. En la otra, Altman predice que los laboratorios líderes se fusionen en una única unidad mediante una adquisición. 

Solo un escenario mantiene a múltiples actores en el juego: aquel en el que un inspector externo mantiene la supervisión del sector.

Altman ha presentado la idea del inspector antes en el ensayo 2023 “Gobernanza de la superinteligencia” del año 2023. Este artículo, que también cuenta con Greg Brockman e Ilya Sutskever como coautores, señalaba que “algo así como la AIEA” debería inspeccionar los sistemas, exigir auditorías y verificar el cumplimiento de la seguridad en los sistemas más capaces.

OpenAI ya está ayudando a construir un regulador estándar 

OpenAI ya está trabajando con Google, OpenAI y Anthropic para lanzar la Autoridad de Estándares para la IA Fronteriza, un organismo de autorregulación sin supervisión gubernamental, hacia finales de 2026 o principios de 2027. Sin embargo, este regulador se asemeja más al modelo FINRA, el organismo que vigila a las casas de corretaje estadounidenses, no al tipo de organismo estilo AIEA que proponía el artículo de 2023.

Altman declaró ante el Consejo de Seguridad de la ONU en septiembre que OpenAI reduciría el ritmo y pidió establecer normas nacionales e internacionales. OpenAI también ha instado a Washington a liderar un esfuerzo global para establecer estándares en sistemas de auto-mejora.

El presidente Donald Trump presentó a finales de septiembre un acuerdo voluntario en el que los principales laboratorios de IA acordaron «autopoliciarse». 

Sin embargo, estos pactos de autorregulación han recibido críticas desde diversos sectores, incluyendo al exejecutivo de Meta Nick Clegg y Bill Gates.

Las empresas están siendo demandadas por el pacto de ralentización de la IA 

Cuatro suscriptores de pago de ChatGPT, Claude, Grok y Gemini han presentado una demanda para una clase nacional propuesta. Una demanda federal antimonopolio presentada en septiembre en el Distrito Norte de California acusa a Anthropic, OpenAI, SpaceXAI y Google de haber acordado ilegalmente desacelerar el desarrollo de la IA.

La demanda se centra en un ensayo de septiembre del CEO de Anthropic, Dario Amodei, cuyo plan de «marcar el ritmo en la frontera» proponía evaluadores externos integrados y límites sectoriales sobre la velocidad con la que pueden avanzar las capacidades. 

Altman, Elon Musk y Demis Hassabis de Google DeepMind respaldaron públicamente las propuestas el mismo día. 

Altman ha intentado seguir avanzando sin detenerse. Aceptó un "marco federal que establezca requisitos de seguridad uniformes", pero señaló que OpenAI no necesita "esperar una exención antimonopolio o legislación para comenzar el trabajo." 

OpenAI había preguntado anteriormente a los miembros del Congreso si una desaceleración generalizada en la industria sería incluso legal, WIRED informó.

OpenAI mira una ronda de financiación de 30 mil millones de dólares 

A pesar de todo lo dicho sobre límites de velocidad, OpenAI no está reduciendo su ritmo de recaudación de fondos. La empresa está presionando para cerrar una ronda de aproximadamente 30.000 millones de dólares que podría valorarla por encima de 1,4 billones de dólares, con el objetivo de superar la oferta pública inicial (IPO) esperada de Anthropic a mediados de noviembre, informó Cryptopolitan, citando a Reuters.

La urgencia es competitiva. OpenAI y Anthropic persiguen los mismos fondos de riqueza soberana e inversores institucionales, y OpenAI quiere fijar su valoración antes de que las revelaciones financieras de Anthropic brinden a sus patrocinadores una comparación más clara. 

OpenAI ha informado a los inversores de que sus ingresos anualizados alcanzaron los 50.000 millones de dólares tras el lanzamiento de GPT-6 Astra y podrían llegar a los 70.000 millones de dólares antes de fin de año.