El jefe de IA de Microsoft promete detener el desarrollo si la tecnología representa un riesgo existencial

Mustafa Suleyman, jefe de inteligencia artificial para consumidores de Microsoft, dice que detendrá el desarrollo por completo si la IA avanzada alguna vez amenaza la seguridad humana.

Al hablar en el programa The Mishal Husain Show de Bloomberg, Mustafa juró que el enfoque de Microsoft es construir una superinteligencia alineada con los intereses humanos, no persiguiendo el poder bruto a cualquier costo.

«No seguiremos desarrollando un sistema que tenga el potencial de escaparse de nosotros», dijo Mustafa durante la entrevista. Añadió que esta postura no debería ser controvertida, calificándola de una posición obvia, aunque cree que sigue siendo rara en toda la industria de la IA.

Microsoft recupera la libertad para construir sistemas de IA avanzada

Mustafa se unió a Microsoft a principios del año pasado después de que la empresa adquiriera la propiedad intelectual y gran parte del equipo detrás de su startup, Inflection AI, tras abandonar OpenAI para centrarse en herramientas de IA dirigidas al consumidor.

Después de la adquisición, se encargó a Mustafa que construyera productos que pudieran competir directamente con los modelos más potentes ya presentes en el mercado.

Durante gran parte de ese tiempo, su trabajo estuvo sujeto a límites. Los términos contractuales vinculados a la asociación de Microsoft con OpenAI bloqueaban a la empresa para desarrollar inteligencia artificial general, definida como sistemas que pueden desempeñarse al nivel humano, así como superinteligencia, que superaría las capacidades humanas.

Mustafa dijo que Microsoft renunció a esos derechos a cambio de acceso a los últimos modelos de OpenAI. Ese acuerdo también implicaba que Microsoft construyera y equipara centros de datos para OpenAI durante varios años.

Esa estructura cambió en octubre. Un nuevo acuerdo remodeló la relación y devolvió los derechos de desarrollo a Microsoft.

Mustafa dijo que OpenAI ahora tiene acuerdos de infraestructura con otros socios, incluidos SoftBank y Oracle, para construir más centros de datos de los que Microsoft estaba dispuesto a comprometerse. «Ahora tienen acuerdos con SoftBank y muchos otros, como Oracle, para construir más centros de datos de los que Microsoft quería construir para ellos», dijo. «Y, por lo tanto, a cambio, ahora tenemos el derecho de desarrollar nuestra propia IA.»

Dijo que Microsoft se ha mantenido como un desarrollador de IA de propósito general durante los últimos 18 meses, pero ahora está avanzando hacia trabajos que podrían superar el rendimiento humano en todas las tareas.

«Seguimos siendo un estudio de desarrollo de IA de propósito general durante los últimos 18 meses, pero ahora podemos trabajar en algunas técnicas y metodologías que tienen el potencial de superar el rendimiento humano en todas las tareas», dijo Mustafa . «Y, por lo tanto, es un cambio para nosotros.»

Suleyman describe un enfoque cauteloso mientras las herramientas siguen sin estar terminadas

El mes pasado, Mustafa anunció formalmente el esfuerzo de superinteligencia en una publicación de blog que establecía la posición de Microsoft de que tales sistemas deben diseñarse para servir a las personas. Otros jugadores importantes, incluidos OpenAI y Anthropic PBC, a menudo hacen afirmaciones similares sobre seguridad y beneficio humano.

«Todos tienen que decidir en qué creen y cómo operan, y no quiero juzgar cómo están operando en este momento», dijo. «No veo ninguna evidencia de daño masivo a gran escala.»

A pesar del enfoque a largo plazo en la superinteligencia, Mustafa dijo que el debate actual sigue siendo académico.

Los consumidores esperan asistentes que puedan realizar tareas como reservar entradas u organizar planes de compras. Los ejecutivos esperan ganancias de productividad. Ningún grupo ha llegado completamente a ese punto todavía.

Mustafa señaló al asistente para consumidores Copilot de Microsoft como prueba. Dijo que sus funciones similares a las de un agente aún se están probando y no siempre funcionan como se pretende.

«Aún estamos experimentando con ello», dijo Mustafa. «Pero cuando funciona, es lo más mágico que has visto jamás.»