Microsoft abre el borrado del Código de Conducta de IA, apostando por que el control humano vende modelos

Microsoft AI (MAI) publicó su borrador inicial del Código de Conducta de IA Humanista el lunes e invitó a la opinión pública a dar sus comentarios durante seis semanas, enfatizando la prioridad de la supervisión humana y las restricciones aplicables en su evaluación de los sistemas MAI. Según Reuters, el modelo está diseñado para permitir que los humanos supervisen eficazmente los sistemas MAI.

El documento tiene como objetivo guiar el futuro entrenamiento y el comportamiento del modelo, pero también sirve como estrategia empresarial. A medida que las empresas aumentan el dinero invertido en tecnología de IA y se preocupan más por la fiabilidad, el costo y el riesgo, Microsoft enfatiza la previsibilidad y la contención como factores por los que vale la pena pagar.

Lo que el borrador indica a los modelos que deben hacer

El objetivo más importante del borrador es bastante simple: es importante asegurar que los humanos sigan teniendo el control. Según Microsoft, los modelos deberían funcionar más como herramientas que como personas, actuando bajo supervisión humana.

El código también establece Restricciones Absolutas en los modelos, las cuales no deben violarse independientemente de la intención de un usuario u operador. Las restricciones incluyen los siguientes puntos: uso de armas y causar daños masivos, participar en operaciones ofensivas cibernéticas, pérdida de control humano, manipulaciones maliciosas a gran escala y asuntos de seguridad infantil.

La Cadena de Mando de tres niveles se estructura de la siguiente manera: el Código de Conducta tiene la máxima prioridad, seguido de las políticas del operador, y las preferencias del usuario, que son las últimas en seguirse. Las Restricciones Absolutas y la Solicitud de Control Humano deben prevalecer y no pueden ser ignoradas.

Microsoft dijo que el borrador no se utiliza actualmente en el entrenamiento de los modelos. Se espera que la nueva versión, que se publicará más adelante este año, facilite el desarrollo de MAI para 2027 y más allá.

Por qué la confianza se está convirtiendo en una característica del producto

La fecha de lanzamiento del código borrado coincide con un aumento en los gastos globales de IA. Gartner pronostica que el gasto en modelos y plataformas de IA alcanzará los 64.300 millones de dólares para 2026, lo que representa un aumento del 63,4% en comparación con 2025, con gastos en modelos de IA generativa que crecen un 117%. Según Gartner, los compradores están considerando cada vez más el costo, la latencia, el rendimiento y la fiabilidad al seleccionar proveedores.

Por lo tanto, la gobernanza se vuelve comercialmente atractiva pero podría beneficiar a las grandes empresas. Un informe del FMI establece claramente que los beneficios de escala en computación y datos pueden contribuir a procesos de «el ganador se lo lleva todo». También enfatiza que la complejidad en la regulación puede ir de la mano con un aumento en la concentración, ya que ayuda a las empresas a absorber los costos de cumplimiento.

Según Gartner, los gastos en gobernanza relacionados con la IA alcanzarán los 492 millones de dólares para 2026 y superarán el umbral de 1.000 millones de dólares para 2030.

Un campo abarrotado de libros de reglas de IA

El marco de Microsoft llega a un panorama de gobernanza ya fragmentado. El Código de Práctica de IA de Propósito General ha sido finalizado por la Unión Europea (UE) en julio de 2025, permitiendo a las organizaciones autoverificar su cumplimiento con las obligaciones de la Ley de IA. Algunos de sus principales interesados aquí incluyen a Microsoft, OpenAI, Anthropic y Google. A diferencia del lanzamiento de la UE, el código de Microsoft es un marco de comportamiento desarrollado por la empresa para sus propios proyectos de MAI en lugar de una herramienta de cumplimiento desarrollada por un regulador.

El Índice Global de IA Responsable para 2026 es una ilustración de lo desigual que es la implementación. La puntuación global promedio en 135 países y jurisdicciones se sitúa en torno al 35. La evidencia real de implementación se puede encontrar en el 55% de los casos, con el número cayendo al 45% en los países del Sur Global.

La división también es geopolítica. BCG dice que las estrategias de IA de EE. UU. y China están produciendo pilas de tecnología cada vez más incompatibles, obligando a las empresas a considerar dónde puede operar una pila elegida y qué tan expuesta está al riesgo geopolítico. Cryptopolitan también ha informado que Washington y Pekín estaban preparando tentativamente sus primeras conversaciones solo de seguridad de IA del segundo mandato de Trump.

En este contexto, el libro de reglas de Microsoft podría ser utilizado por socios como referencia o simplemente como otra adición al sistema global ya caótico existente en este momento.

Lo que Microsoft quiere del público

Microsoft especifica que el período de comentarios dura seis semanas. Esto significa que el equipo principal de redacción analizará los comentarios recibidos después de este tiempo, publicará un resumen de lo aprendido y los cambios introducidos, y emitirá una versión revisada más tarde este año.

Lo que la empresa está pidiendo es cómo hacer más precisa la definición de «florecimiento humano», qué lenguaje tiene un significado vago que no puede ser evaluado y cómo mantener las restricciones de seguridad mientras las capacidades continúan evolucionando. Sin embargo, Microsoft no garantiza que cada recomendación sea tenida en cuenta.