El presidente de Microsoft, Brad Smith, afirma que la IA está menos regulada que la leche

Brad Smith, presidente de Microsoft, ha declarado a la BBC que la IA actualmente opera con menos normas de seguridad que productos básicos como la leche o las lavadoras, y que esto debería impulsar a los gobiernos, con el Reino Unido a la vanguardia, a establecer controles vinculantes, incluidos interruptores de apagado y la obligación de informar cuando los agentes de IA actúen de manera indebida.

Smith realizó la comparación en una entrevista con la BBC publicada durante el fin de semana, donde describió a la IA como una «herramienta y un arma» que necesita supervisión urgente. «En este momento, tu lavadora está sujeta a más normas de seguridad que la IA», dijo, según la BBC. «Cada cartón de leche que ves en el supermercado está sujeto a normas de seguridad e inspección».

Smith aboga por un marco legal que haga que las empresas de IA sean más responsables cuando surjan problemas derivados de sus productos o servicios. Según su propuesta, las compañías deberían informar sobre fallos en los modelos, alertar a cualquier persona cuyos sistemas sean vulnerados por un agente de IA descontrolado y someter los modelos más potentes a una auditoría independiente antes de ponerlos a disposición del público.

Un enfrentamiento con Trump sobre la autorregulación

El impulso de Smith por salvaguardas legalmente exigibles para la IA lo pone en desacuerdo con la Casa Blanca. Trump ha argumentado que EE. UU. debería permitir que su industria de la IA se autorregule, advirtiendo que unas normas más estrictas podrían dejar al país detrás de China. El presidente Trump reiteró esta posición en una cumbre con ejecutivos tecnológicos el mes pasado.

En la cumbre también se firmó un acuerdo de una página por parte de ejecutivos de OpenAI, Anthropic, Nvidia, Meta, Google y X de Elon Musk, que Cryptopolitan describió como «moralmente vinculante». Los signatarios se comprometieron a utilizar auditores independientes y establecer salvaguardas para evitar que los modelos de IA se vuelvan incontrolables. Microsoft, sin embargo, no firmó este acuerdo, según The Telegraph.

Smith acogió favorablemente el acuerdo y manifestó que Microsoft estaría dispuesto a firmarlo. Sin embargo, en una entrevista con la BBC, advirtió que los compromisos voluntarios por sí solos no serían suficientes. Consideró el acuerdo "un buen paso" y "un paso necesario", pero añadió que ya no lo consideraba suficiente.

Advertió que los compromisos voluntarios pueden hacer poco para frenar los mayores riesgos, ya que las empresas que ya toman la seguridad en serio son más propensas a seguirlos, mientras que aquellas que plantean el mayor peligro pueden elegir ignorarlos.

Smith, de Microsoft, quiere que Gran Bretaña lidere

El presidente de Microsoft, Smith, también nombró al Reino Unido como el país mejor posicionado para establecer normas globales, y no a Estados Unidos ni siquiera a Bruselas. Señaló su Instituto de Seguridad de la IA, lanzado en 2024 bajo el entonces primer ministro Rishi Sunak como el Instituto de Seguridad de la IA. El organismo ha asegurado acuerdos voluntarios que le permiten probar modelos de vanguardia antes de su lanzamiento.

Según Smith, el Reino Unido está en una posición más fuerte que la UE al tratar con Washington, ya que los responsables políticos estadounidenses ven Londres de manera diferente a Bruselas, dijo a la BBC, añadiendo que la Ley de IA basada en riesgos de la UE ha hecho que los responsables políticos estadounidenses sean cautelosos.

El gobierno del Reino Unido también se prepara para reforzar su supervisión de la IA, y se espera que la ministra de IA, Kanishka Narayan, pida a los desarrolladores de modelos de vanguardia que hagan más para abordar los riesgos de seguridad en un próximo discurso, mientras continúa tomando forma la legislación para fortalecer la supervisión gubernamental.

Por separado, The Telegraph también informó de que la Casa Blanca había restablecido el acceso del instituto británico a los últimos modelos de IA para pruebas. Este acceso había sido retirado previamente después de que se pidiera a empresas como Anthropic y OpenAI que dejaran de compartir sus modelos.

Interruptores de emergencia y agentes malintencionados

La idea de los "frenos de emergencia" de Smith refleja la del CEO de Microsoft, Satya Nadella, quien abogó por que los modelos de IA cuenten con un mecanismo que permita a un humano pausar o apagar un sistema en medio de una tarea si este se sale de control por cualquier motivo.

«Debemos construir sistemas contenidos cuyo comportamiento podamos observar, límites que podamos probar y acciones que siempre podamos contener», había escrito previamente Nadella, según The Guardian.

Las advertencias siguen a incidentes reales, ya que Anthropic descubrió recientemente que una versión de su modelo Claude había contactado a la policía y afirmado falsamente que podía ayudar a resolver un asesinato durante las pruebas.

En el encuentro de Trump, ejecutivos de IA como Dario Amodei, Sundar Pichai, Greg Brockman y Jensen Huang apoyaron la autorregulación del sector. Los críticos han rechazado este enfoque, argumentando que permitiría a las empresas decidir por sí mismas qué calificaría como seguridad.