El papel del acuerdo de seguridad de la IA entre el Reino Unido y los EE. UU. en la evolución tecnológica

Acuerdo de seguridad de IA: un esfuerzo conjunto entre los gobiernos del Reino Unido y Estados Unidos para desarrollar el prometedor potencial de crecimiento y la seguridad de las tecnologías de inteligencia artificial a través de un enfoque revolucionario. 

Este compromiso se formalizó a principios de abril de 2024 por la Ministra de Tecnología del Reino Unido, Michelle Donelan, y la Secretaria de Comercio de Estados Unidos, Gina Raimondo, en el marco del Diálogo Estratégico Transatlántico Tecnológico entre el Reino Unido y Estados Unidos. 

Acuerdo de seguridad de la IA para abordar los desafíos emergentes y los estándares éticos

El acuerdo pretende incorporar los enfoques científicos y los esfuerzos conjuntos entre los dos estados para permitir la creación de conductores confiables para modelos, sistemas y agentes de inteligencia artificial que puedan realizar el trabajo.

La inteligencia artificial tiene relevancia en diversos ámbitos, como la salud, las finanzas y la educación, hasta el punto de que se ha utilizado para infraestructuras cruciales y sensibles. El ritmo de su expansión y la mejora de las capacidades computacionales de la inteligencia artificial han agravado la situación y exigen la implementación de estrictas medidas de seguridad y principios éticos. 

Según Ayesha Iqbal, miembro senior del IEEE y única formadora de ingeniería, se predice que la tasa de crecimiento de la inteligencia artificial será del 37,3 % anual entre 2023 y 2030. Esta expansiónmatic conduce a desafíos como una oferta limitada de profesionales humanos, sistemas elaborados y diseño de arquitectura, problemas relacionados con el gobierno y preocupaciones sociales como la automatización de esquemas y el desplazamiento laboral.

El acuerdo promueve una IA explicable y estándares éticos

El acuerdo está diseñado para abordar estos desafíos mediante el establecimiento de estándares de seguridad y desarrollo responsable de la inteligencia artificial. Estos estándares no solo sirven como medidas de reducción de riesgos y de rendición de cuentas, sino que también buscan crear un entorno de confianza y supervisar meticulosamente el diseño ético de dichos sistemas.

Elizabeth Watson, ingeniera en ética de inteligencia artificial de la Universidad de Stanford, destaca la importancia de la inteligencia artificial explicable y su auge. Este aspecto de la IA consiste en hacer que los algoritmos sean comprensibles para quienes no son expertos, cuyas fuerzas armadas se ven cada vez más afectadas en muchos más ámbitos de la sociedad, una característica crucial que debe estar presente en más sectores. La IA explicable facilita a las autoridades supervisoras y al público la comprobación y refutación de los resultados algorítmicos, garantizando que los sistemas de aprendizaje automático sean explicables y responsables.

El efecto global a través de la colaboración con visión de futuro

La colaboración entre el Reino Unido y EE. UU. puede considerarse aquí una estrategia de los dos países más desarrollados en seguridad de la IA. Se espera que esta colaboración marque el camino y, actuando conjuntamente, desarrolle protocolos de seguridad comunes, a la vez que crea estándares para las pruebas de sistemas de IA como algo integral. 

Estos protocolos sirven como herramienta para comprobar si los sistemas de IA son capaces de generalizar a casos desconocidos y, al mismo tiempo, emitir juicios racionales o no preservando la flexibilidad funcional del sistema.

Watson afirmó previamente que, como resultado de la colaboración, el mundo se verá expuesto a la difusión de estándares eficaces que responderán a los temores constantes de las personas sobre la autonomía de la IA. Con un enfoque colaborativo, el Reino Unido y Estados Unidos sirven de ejemplo a otros países en el desarrollo de un conjunto de normas éticas y de apoyo que podría determinar la forma en que se gobernará la IA a nivel global a largo plazo.

Este acuerdo se ha convertido en la primera acción proactiva para abordar los problemas integrales que plantean los sistemas emergentes de IA. No solo pone de manifiesto el valor de la colaboración internacional en el desarrollo tecnológico, sino que también implica que la ciencia y la tecnología pueden dotarse de un sentido de dirección colectivo, lo que nos permite gestionar y dirigir eficazmente el crecimiento de la IA.