El Departamento de Comercio de EE. UU. propone nuevas normas de información para proveedores de IA y nube

El Departamento de Comercio de EE. UU. ha propuesto nuevos requisitos de información para los desarrolladores de inteligencia artificial avanzada y los proveedores de nube para garantizar la seguridad y protección de la tecnología.

La Oficina de Industria y Seguridad (BIS) dejó claro que las empresas que crean fronteras tecnológicas y las empresas de gestión de clústeres de ingeniería que invierten en la creación de supercomputadoras tendrán la obligación de presentar ciertas actividades de desarrollo esenciales a las autoridades federales. Esta tendencia tiene como objetivo disminuir las amenazas de seguridad asociadas con la ciberseguridad y el uso indebido de los recursos de inteligencia artificial.

Según la nueva propuesta, los desarrolladores deberán divulgar información detallada sobre sus sistemas de inteligencia artificial, centrándose especialmente en las medidas de ciberseguridad y los esfuerzos de red-teaming (pruebas de penetración). El red-teaming es una técnica utilizada en ciberseguridad que evalúa los usos dañinos de una IA, como habilitar el ciberterrorismo o facilitar la creación de armas de destrucción masiva.

Los desarrolladores de IA enfrentan nuevos mandatos para informar sobre medidas de ciberseguridad y pruebas de riesgo

La propuesta del Departamento de Comercio también requeriría a los desarrolladores de IA incluir en sus informes los resultados de las actividades de red-teaming, especialmente aquellas relacionadas con capacidades peligrosas como ciberataques. Este método, originado en simulaciones de la Guerra Fría, identifica riesgos simulando ataques o brechas.

Las organizaciones deberán actualizar la capacidad de sus sistemas de IA para resistir ataques, incluso de intereses extranjeros o actores no estatales que puedan querer abusar del sistema con fines maliciosos críticos.

La IA generativa, que puede crear texto, imágenes o videos basados en indicaciones del usuario, ha generado preocupaciones. Aunque la tecnología ofrece avances en muchas áreas, también ha aumentado los temores sobre posibles amenazas como la pérdida de empleos, la interferencia en las elecciones y el riesgo de dominación de la inteligencia artificial sobre los humanos.

Las nuevas directrices de información buscan garantizar el desarrollo seguro y confiable de los modelos de IA, reduciendo la posibilidad de que estos riesgos se materialicen.

Los proveedores de nube deben cumplir con nuevos estándares de información sobre seguridad y desarrollo de IA

Además de los desarrolladores de inteligencia artificial, las reglas propuestas también se relacionarán con proveedores de servicios en la nube como Amazon Web Services (AWS), Google Cloud y Microsoft Azure. Estas plataformas, esenciales para avanzar en el desarrollo de la inteligencia artificial, deberán adherirse a estrictos estándares de ciberseguridad de su infraestructura. El Departamento de Comercio destacó que esta información es importante para evitar el abuso de la tecnología de EE. UU. por parte de otros países.

El impulso regulatorio sigue la Orden Ejecutiva del presidente Joe Biden firmada en octubre de 2023. La orden requiere que los desarrolladores de tecnología de inteligencia artificial presenten los resultados de sus pruebas de seguridad al Gobierno de EE. UU. antes de lanzar sus tecnologías al público. El borrador emitido por el Departamento de Comercio está en línea con este objetivo más amplio de proteger la seguridad nacional, la salud pública y la economía del país de las amenazas planteadas por la inteligencia artificial.

Esta propuesta también sigue los esfuerzos anteriores iniciados por la administración Biden para implementar medidas que impidan que China acceda a la tecnología de EE. UU. para el desarrollo de inteligencia artificial, lo que sugiere mayores preocupaciones de seguridad dentro de esta industria en constante expansión.