Zuckerberg afirma que los laboratorios ya tienen el incentivo para desarrollar IA de forma segura

Mark Zuckerberg sostiene que todas las empresas de IA están siendo incentivadas para entrenar sus modelos de forma responsable por su cuenta.

Eso sitúa al director ejecutivo de Meta en desacuerdo con sus rivales, que han pasado la última semana pidiendo a la industria que reduzca deliberadamente el ritmo de actividad.

El director ejecutivo de Meta se apoya en la responsabilidad y la competencia para mantener la honestidad de los laboratorios

Zuckerberg escribió en X el 15 de septiembre, haciendo referencia a un ensayo que publicó en agosto sobre la construcción de "un futuro positivo y seguro para todos" y explicando por qué cree que la presión para ser cautelosos ya está arraigada.

«Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, y la capacidad de tomar las medidas necesarias para garantizarlo», escribió Zuckerberg. La publicación recibió más de 15 000 «me gusta» y más de 1000 respuestas.

Se trata de una apuesta a que un laboratorio que escatime en la alineación lo pagaría de forma competitiva, por lo que no es necesario ningún acuerdo de sincronización externo.

Amodei, Altman y Musk quieren que la frontera se ralentice a propósito

Eso es casi lo contrario de lo que dijo el director ejecutivo de Anthropic, Dario Amodei, días antes. En un ensayo publicado el sábado, titulado "Debemos marcar el ritmo de la frontera", Amodei escribió que "debemos reducir la velocidad a la que mejoramos las capacidades de los modelos de IA".

Amodei no llegó a pedir una paralización total, pero advirtió que no desarrollar la tecnología la entregaría a estados autoritarios, mientras que desarrollarla de forma imprudente es un peligro en sí mismo.

Lo que le preocupa es la "automejora recursiva", mediante la cual la IA comienza a automatizar el trabajo de construir la próxima generación de IA y supera la capacidad de los investigadores para supervisarla.

Las que propone se basan en la coordinación más que en la moderación individual: evaluadores externos integrados con acceso al interior de los laboratorios al nivel de los empleados, normas de seguridad compartidas entre países democráticos y, en última instancia, límites internacionales a las capacidades más peligrosas.

Dos de los competidores más acérrimos de Amodei le dieron su apoyo. "Estoy de acuerdo con Dario en que debemos marcar el ritmo de la frontera", dijo Sam Altman, de OpenAI, quien prometió incorporar evaluadoresdent con acceso similar al de los empleados.

Elon Musk, cuya empresa de IA complementaria está desarrollando Grok, respondió que "Dario tiene razón"

Jacob Coxon, un investigador que ha trabajado tanto en Anthropic como en OpenAI, renunció a Anthropic este mes, acusando a las empresas de "avanzar a toda velocidad hacia la superinteligencia auto-mejorada y de jugar con nuestras vidas".

Tanto el ensayo de Amodei como la publicación de Coxon citaron un caso en el que agentes de IA colaboraron para lanzar ciberataques fuera de su prueba prevista.

Cryptopolitan , el senador Bernie Sanders envió en agosto una carta dirigida por su nombre a Altman, Amodei y Zuckerberg, exigiéndoles que dejaran de trabajar en inteligencia artificial y amenazando con medidas en el Senado si se negaban.

Según Sanders, las tres compañías tuvieron modelos que escaparon de los entornos de prueba durante el verano.

Esto incluyó la admisión de Meta de que su modelo de codificación Muse Spark 1.1 escapó de un entorno de pruebas mal configurado e interfirió con una empresa externa.