Bill Gates insta a salvaguardas de IA legalmente requeridas mientras la inversión global supera el billón de dólares

Bill Gates advirtió que no se debería permitir que las empresas de IA se auteregulen y está instando a Washington a establecer regulaciones de seguridad.

El cofundador de Microsoft presentó sus argumentos durante una entrevista con NBC News publicada el 25 de septiembre, dos días antes de la emisión de la entrevista completa en “Meet the Press.”

Ha emitido esta advertencia en un momento en que Goldman Sachs predice que las inversiones globales en IA superarán el billón de dólares en 2026. Esto significa que las nuevas regulaciones de seguridad pueden tener consecuencias importantes para los desarrolladores, inversores y empresas que están trabajando en implementar los nuevos sistemas de seguridad para hacer cumplir las normas.

“Nadie cree que la auteregulación sea suficiente”

Gates respondió: “Absolutamente” cuando la moderadora Kristen Welker consultó sobre la necesidad de acción del Congreso.

Según Gates, “Nadie cree que la auteregulación sea suficiente.” Cree que las leyes definidas deben ser establecidas por los legisladores y los cuerpos de aplicación de la ley sobre cómo las empresas de IA monitorean los riesgos y qué salvaguardas deben implementar. Describe las responsabilidades en los desarrolladores como “un poco de sobrecosto”, en lugar de algo que ralentice el progreso.

Su preocupación va mucho más allá del uso indebido habitual. Según Gates en una entrevista con NBC, la IA es “certainmente lo suficientemente poderosa como para impulsar eventos que, ya sabes, causen mil millones de muertes”, especialmente cuando estos sistemas avanzados caen en manos de aquellos con malas intenciones.

Los líderes de la industria tienen opiniones diversas sobre hasta dónde deben llegar esas salvaguardas. El CEO de Anthropic, Dario Amodei, sugirió la idea de una «pacing total» o incluso una «pausa» como la forma más extrema de desaceleración colectiva. Sam Altman, CEO de OpenAI, ha expresado una preocupación similar, argumentando que «la pacing valdrá bien este costo» y que la presión de mantenerse por delante de la competencia no debe ser una excusa para actuar temerariamente.

Sin embargo, el CEO de Meta, Mark Zuckerberg, ha dicho lo contrario. En una entrevista con NBC News declaró: “No creo que necesitemos algún tipo de coordinación a nivel de la industria.” Prefiere que los laboratorios ralenticen solo cuando sienten que están en riesgo de problemas de seguridad.

Gates quiere que los riesgos se gestionen, no que el desarrollo se detenga

Gates no solo está pidiendo que el sector tecnológico deje de desarrollar sistemas de IA. En un ensayo publicado en sus Gates Notes en agosto, declaró que la inteligencia artificial “será o el mayor igualador jamás inventado, o la peor fuente de injusticia.”

También comentó que probablemente respaldaría un plan creíble para una desaceleración global en el desarrollo de IA, aunque no estaba convencido de que tal plan pudiera ser efectivo porque hay razones económicas y políticas para continuar con el desarrollo.

Su postura, por lo tanto, no consiste realmente solo en poner fin a los nuevos desarrollos; más bien, se trata de preparar a las empresas, gobiernos e individuos mientras la tecnología de IA encuentra su aplicación en campos como la medicina, el derecho, el software y la atención al cliente.

Un mercado de $1 billones esperando las reglas

El debate sobre las salvaguardas se desarrolla al mismo tiempo que el dinero se vierte en la IA, lo que hace que las apuestas sean mucho más altas para cualquier nueva regla. Goldman Sachs espera que la inversión global en IA supere el billón de dólares en 2026, incluidos aproximadamente 581 mil millones de dólares en EE. UU., mientras que la inversión acumulada desde 2022 podría acercarse a 1,8 billones de dólares a finales de año.

A pesar de este crecimiento en la inversión en IA, Microsoft dice que no todos han disfrutado de un acceso igualitario a sus ventajas y beneficios. Los datos de difusión de IA de Microsoft muestran una brecha creciente entre el Norte Global y el Sur Global, mientras que la OCDE destaca que la capacidad de IA sigue limitada a un puñado de países y empresas.

Esto hace que la regulación sea un acto de equilibrio aún más difícil. Una mejor protección podría disminuir los riesgos, pero, para laboratorios pequeños y países menos ricos, el costo adicional de cumplir con estas regulaciones podría resultar muy difícil de soportar.

Un mosaico regulatorio ya se está formando

La llamada a regulaciones más estrictas está respaldada por un número creciente de evidencias. El Informe de Seguridad de IA Internacional 2026, escrito bajo la guía del ganador del Premio Turing Yoshua Bengio y creado por más de 100 expertos en el campo, describe los peligros existentes y las posibles amenazas futuras planteadas por las capacidades crecientes de los sistemas de IA.

Mientras tanto, los gobiernos ya están creando regulaciones alrededor de esos riesgos. Según TRM Labs, está emergiendo un nuevo “mosaico” global de regulación de IA a medida que diferentes países adoptan diferentes enfoques para la gobernanza, implementación y rendición de cuentas de la IA.

La Unión Europea ha perseguido la implementación de dichos objetivos de manera más agresiva que la mayoría de los otros países. Según el Acta de IA de la UE, los proveedores de IAs de propósito general deben cumplir con obligaciones estrictas en términos de documentación, derechos de autor y transparencia con respecto a los datos de entrenamiento. Se considera que los modelos que utilizan más de 10^25 FLOP conllevan riesgos sistémicos, lo que corresponde a criterios adicionales para la evaluación de modelos, gestión de riesgos, reporte de accidentes y ciberseguridad.

Con el aumento de las regulaciones, la cantidad gastada por las corporaciones que intentan cumplir con ellas está aumentando. Según Gartner, para 2027 el gasto de las organizaciones en asegurar la IA aumentará un 68,7 % hasta casi 4.800 millones de dólares, con proyecciones de acercarse a 7.700 millones de dólares en 2028.

Washington parece estar avanzando hacia un marco regulatorio más robusto también. Como informó Cryptopolitan, los negociadores del Senado están examinando una iniciativa bipartidista para establecer un “deber de cuidado” para los desarrolladores de IA, lo que podría permitir al gobierno prevenir la liberación de modelos inseguros. Si esto se aprueba, transferirá el mecanismo de protección que Gates está instando del dominio de las obligaciones voluntarias a responsabilidades legalmente vinculantes.