El Departamento de Comercio de EE. UU. propone nuevas reglas de informes para los proveedores de inteligencia artificial y nube

El Departamento de Comercio de EE. UU. ha propuesto nuevos requisitos de informes para los desarrolladores de inteligencia artificial avanzada y los proveedores de la nube para garantizar la seguridad de la tecnología.

La Oficina de Industria y Seguridad (BIS) dejó claro que las empresas pioneras y las empresas de gestión de clústeres de ingeniería que inviertan en la creación de supercomputadoras tendrán la obligación de presentar ciertas actividades esenciales de desarrollo a las autoridades federales. Esta medida busca reducir las amenazas a la seguridad asociadas con la ciberseguridad y el uso inadecuado de recursos de inteligencia artificial.

Según la nueva propuesta, los desarrolladores deberán divulgar información detallada sobre sus sistemas de inteligencia artificial, centrándose especialmente en las medidas de ciberseguridad y las estrategias de red-teaming. El red-teaming es una técnica utilizada en ciberseguridad que evalúa los usos perjudiciales de una IA, como facilitar el ciberterrorismo o la creación de armas de destrucción masiva.

Los desarrolladores de IA se enfrentan a nuevos mandatos para informar sobre medidas de ciberseguridad y pruebas de riesgo

La propuesta del Departamento de Comercio también exigiría que los desarrolladores de IA incluyan en sus informes los resultados de las actividades de los equipos rojos, especialmente las relacionadas con capacidades peligrosas como los ciberataques. Este método, originario de las simulaciones de la Guerra Fría,dentriesgos mediante la simulación de ataques o infracciones.

Las organizaciones tendrían que actualizar el nivel de resistencia de sus sistemas de IA ante ataques incluso de intereses extranjeros o actores no estatales que quieran abusar del sistema con fines maliciosos críticos.

La IA generativa, capaz de crear texto, imágenes o vídeos según las indicaciones del usuario, ha suscitado preocupación. Si bien esta tecnología ofrece avances en muchas áreas, también ha aumentado el temor a posibles amenazas como la pérdida de empleos, la interferencia electoral y el riesgo de que la inteligencia artificial domine a los humanos.

Las nuevas directrices de presentación de informes buscan garantizar el desarrollo seguro y confiable de modelos de IA, reduciendo la posibilidad de que estos riesgos se materialicen.

Los proveedores de nube deben cumplir con los nuevos estándares de informes sobre seguridad y desarrollo de IA

Además de los desarrolladores de inteligencia artificial, las normas propuestas también afectarán a proveedores de servicios en la nube como Amazon Web Services (AWS), Google Cloud y Microsoft Azure. Estas plataformas, esenciales para el avance del desarrollo de la inteligencia artificial, deberán cumplir con estrictos estándares de ciberseguridad para su infraestructura. El Departamento de Comercio destacó la importancia de esta información para evitar el abuso de la tecnología estadounidense por parte de otros países.

El impulso regulatorio surge tras la Orden Ejecutiva deldent Joe Biden, firmada en octubre de 2023. Esta orden exige que los desarrolladores de tecnología de inteligencia artificial presenten los resultados de sus pruebas de seguridad al Gobierno de EE. UU. antes de lanzar sus tecnologías al público. El borrador emitido por el Departamento de Comercio se ajusta a este objetivo más amplio, que busca proteger la seguridad nacional, la salud pública y la economía del país de las amenazas que plantea la inteligencia artificial.

Esta propuesta también sigue los esfuerzos previos iniciados por la administración Biden para emplear aún más medidas que impidan a China acceder a la tecnología estadounidense para el desarrollo de inteligencia artificial, lo que sugiere mayores preocupaciones de seguridad dentro de esta industria en constante expansión.