Bill Gates insta a que se establezcan salvaguardias legales para la IA mientras la inversión global supera el billón de dólares

Bill Gates advirtió que no se debería permitir que las empresas de IA se autorregulen e instó a Washington a establecer normas de seguridad.

El cofundador de Microsoft expuso sus argumentos durante una entrevista con NBC News, emitida el 25 de septiembre, dos días antes de la emisión de la entrevista completa en el programa "Meet the Press".

Ha lanzado esta advertencia justo cuando Goldman Sachs predice que las inversiones globales en IA superarán el billón de dólares en 2026. Esto significa que las nuevas regulaciones de seguridad podrían tener consecuencias importantes para los desarrolladores, inversores y empresas que trabajan en la implementación de los nuevos sistemas de seguridad para el cumplimiento de las normas.

“Nadie piensa que la autorregulación sea suficiente”

Gates respondió: "Absolutamente" cuando la moderadora Kristen Welker preguntó sobre la necesidad de que el Congreso actuara.

Según Gates, «nadie cree que la autorregulación sea suficiente». Considera que los legisladores y las fuerzas del orden deberían establecer leyes defisobre cómo las empresas de IA supervisan los riesgos y qué medidas de seguridad deben implementar. Describió las responsabilidades de los desarrolladores como «un pequeño gasto adicional», en lugar de algo que frene el progreso.

Su preocupación va mucho más allá del mal uso habitual. Según Gates, en una entrevista con NBC, la IA es "sin duda lo suficientemente poderosa como para provocar sucesos que, como sabemos, causen mil millones de muertes", especialmente cuando estos sistemas avanzados caen en manos de personas con malas intenciones.

Los líderes del sector discrepan sobre el alcance de estas medidas de seguridad. Dario Amodei, CEO de Anthropic, propuso la idea de una desaceleración total, o incluso una pausa, como la forma más extrema de ralentización colectiva. Sam Altman, CEO de OpenAI, expresó una preocupación similar, argumentando que esta desaceleración valdrá la pena y que la presión por mantenerse a la vanguardia no justifica actuar de forma imprudente.

Sin embargo, Mark Zuckerberg, director ejecutivo de Meta, ha expresado una opinión diferente. En una entrevista con NBC News, declaró: «No creo que necesitemos una coordinación a nivel de toda la industria». Prefiere que los laboratorios solo reduzcan la velocidad cuando consideren que existe riesgo de problemas de seguridad.

Gates quiere que se gestionen los riesgos, no que se detenga el desarrollo

Gates no solo pide que el sector tecnológico deje de desarrollar sistemas de IA. En un ensayo publicado en sus Gates Notes en agosto, afirmó que la inteligencia artificial "será o bien el mayor igualador jamás inventado, o bien la peor fuente de injusticia".

También comentó que probablemente respaldaría un plan creíble para una desaceleración global del desarrollo de la IA, aunque no estaba convencido de que dicho plan pudiera ser efectivo, ya que existen razones tanto económicas como políticas para continuar con el desarrollo.

Su postura, por lo tanto, no consiste simplemente en poner fin a los nuevos desarrollos; se trata, más bien, de preparar a las empresas, los gobiernos y los individuos a medida que la tecnología de IA encuentra su aplicación en campos como la medicina, el derecho, el software y el servicio al cliente.

Un mercado de 1 billón de dólares a la espera de las reglas

El debate sobre las salvaguardias se desarrolla al mismo tiempo que se invierte una gran cantidad de dinero en inteligencia artificial, lo que aumenta considerablemente la importancia de cualquier nueva normativa. Goldman Sachs prevé que la inversión global en IA supere el billón de dólares en 2026, incluyendo unos 581.000 millones de dólares en Estados Unidos, mientras que la inversión acumulada desde 2022 podría alcanzar los 1,8 billones de dólares a finales de año.

A pesar de este aumento en la inversión en IA, Microsoft afirma que no todos han tenido enjacceso a sus ventajas y beneficios. Los datos de difusión de la IA de Microsoft muestran una creciente brecha entre el Norte y el Sur global, mientras que la OCDE destaca que la capacidad de la IA aún se limita a un puñado de países y empresas.

Esto convierte la regulación en un ejercicio de equilibrio aún más complejo. Una mayor protección podría reducir los riesgos, pero, para los laboratorios pequeños y los países con menos recursos, el coste adicional de cumplir con estas normativas podría resultar muy difícil de asumir.

Ya se está formando un mosaico regulatorio

La exigencia de regulaciones más estrictas está respaldada por un número creciente de pruebas. El Informe Internacional sobre Seguridad de la IA 2026, elaborado bajo la dirección del ganador del Premio Turing, Yoshua Bengio, y creado por más de 100 expertos en la materia, describe los peligros existentes y las posibles amenazas futuras que plantean las crecientes capacidades de los sistemas de IA.

Mientras tanto, los gobiernos ya están creando regulaciones en torno a esos riesgos. Según TRM Labs, está surgiendo un nuevo «mosaico» global de regulaciones sobre IA, ya que los distintos países adoptan enfoques diferentes para la gobernanza, la implementación y la rendición de cuentas en materia de IA.

La Unión Europea ha impulsado la consecución de estos objetivos con mayor determinación que la mayoría de los demás países. Según la Ley de IA de la UE, los proveedores de IA de propósito general deben cumplir con estrictas obligaciones en materia de documentación, derechos de autor y transparencia respecto a los datos de entrenamiento. Se considera que los modelos que utilizan más de 10²⁵ operaciones de punto flotante (FLOP) conllevan riesgos sistémicos, lo que implica criterios adicionales para la evaluación de modelos, la gestión de riesgos,dent y la ciberseguridad.

Con el aumento de las regulaciones, el gasto de las empresas para cumplirlas también está creciendo. Según Gartner, para 2027, el gasto de las organizaciones en seguridad de IA aumentará un 68,7%, alcanzando casi los 4.800 millones de dólares, con proyecciones de llegar a los 7.700 millones de dólares en 2028.

Washington también parece estar avanzando hacia un marco regulatorio más sólido. Según informa Cryptopolitan, los negociadores del Senado están estudiando una iniciativa bipartidista para establecer un "deber de diligencia" para los desarrolladores de IA, lo que podría permitir al gobierno impedir la publicación de modelos inseguros. De aprobarse, esto transferiría el mecanismo de protección que Gates promueve del ámbito de las obligaciones voluntarias a las responsabilidades legalmente vinculantes.