Meta abre el código fuente de Glimmer mientras Zuckerberg llama a la centralización el mayor riesgo de la IA

Meta (NASDAQ: META) ha lanzado un modelo de IA de peso abierto llamado Muse Glimmer junto con un manifiesto del CEO Mark Zuckerberg, quien afirmó que el verdadero peligro de la IA avanzada es que un solo gobierno o empresa controle la tecnología, no las máquinas rebeldes.

Muse Glimmer es un modelo denso con 30 mil millones de parámetros que cabe en una laptop o en una única GPU de consumo, y Meta lo promociona como «uno de los modelos de mayor rendimiento de su tamaño».

Cualquiera puede descargar el modelo, personalizarlo y ejecutarlo en su propio hardware porque los pesos son de código abierto.

Según se informa, Meta construyó Muse Glimmer mediante destilación, entrenando el modelo más pequeño con las salidas de su sistema mayor Muse Spark para que la versión compacta herede capacidades del «maestro» más grande.

Según Meta, los pesos de una versión de Muse Spark 1.2 seguirán en las próximas semanas. Ambos modelos son considerados los modelos de código abierto más grandes de Estados Unidos hasta la fecha.

Meta había pausado inicialmente el lanzamiento de modelos de peso abierto, atribuido por Zuckerberg a una revisión estratégica. Ahora están de vuelta, ya que Meta Superintelligence Labs está operando.

¿Qué dijo Zuckerberg sobre la centralización de la IA en su ensayo?

Zuckerberg, en un 6,500-palabras ensayo titulado «El Futuro es para Todos: El Camino hacia un Futuro Positivo de la IA», se opuso al tono catastrófico de gran parte del discurso sobre la IA.

En una entrevista, afirmó: «Personalmente, me preocupa más la centralización que cualquiera de los riesgos específicos de los que hablan otros».

Según Zuckerberg, concentrar la superinteligencia en pocas manos «llevará naturalmente a resultados menos favorables para el resto de la gente».

Añadió que «no existe tal cosa como una superinteligencia benevolente única».

Zuckerberg también propuso una alternativa basada en tres ideas. Son el empoderamiento individual como fuente de prosperidad, la invención en lugar de la automatización como propósito principal de la IA, y un equilibrio de poder como base para la seguridad.

En materia de geopolítica, Zuckerberg escribió que las normas de EE. UU. que retrasen los lanzamientos de modelos estadounidenses incluso un mes podrían costarle al país su liderazgo mientras los modelos extranjeros avanzan.

Un consejo independiente y un fondo comunitario de $1 mil millones

Para cuadrar los lanzamientos abiertos con las preocupaciones de seguridad, Meta está añadiendo gobernanza. Zuckerberg dijo que un consejo independiente tendrá la autoridad para aprobar los criterios de seguridad que rigen los lanzamientos de modelos y revisar si un lanzamiento dado los cumple. Dijo que el consejo ayudará a garantizar que los lanzamientos abiertos «cumplan con rigurosos estándares de seguridad».

Zuckerberg también anunció un «Fondo El Futuro es para Todos» de $1 mil millones dirigido a comunidades de EE. UU. que albergan centros de datos de Meta. Se dice que dirigirá dinero hacia maestros, primeros respondedores e infraestructura local de energía y agua.

El fondo se ve como un esfuerzo para atenuar el creciente rechazo local a la construcción de centros de datos en EE. UU.