Las naciones del G7 establecerán reglas innovadoras sobre privacidad y seguridad en IA

En un movimiento innovador, los países del G7, que incluyen Canadá, Francia, Alemania, Italia, Japón, el Reino Unido y Estados Unidos, están a punto de desvelar un conjunto histórico de reglas que rigen el uso de la inteligencia artificial (IA) en relación con las preocupaciones de privacidad y los riesgos de seguridad. Las reglas, que consisten en un código de conducta de 11 puntos, han estado en desarrollo desde mayo como parte del “Proceso de IA de Hiroshima” y tienen como objetivo garantizar el despliegue seguro, confiable y confiable de la IA en todo el mundo.

El objetivo principal del código es promover el desarrollo y despliegue responsable de sistemas de IA, incluidos modelos fundamentales avanzados e IA generativa. Busca equilibrar la obtención de beneficios de la IA y abordar los riesgos y desafíos potenciales. 

Específicamente, el código tiene como objetivo alentar a las empresas a tomar medidas para mitigar riesgos al implementar nuevos sistemas de IA y abordar cualquier mal uso una vez que estos sistemas estén en el mercado. Además, insta a las empresas a proporcionar informes públicos que detallen las capacidades de sus productos de IA e invertir en controles de seguridad.

El código de conducta se alinea con una orden ejecutiva emitida por el presidente de EE. UU., Biden, lo que subraya la importancia global de abordar los desafíos relacionados con la IA. Si bien los detalles específicos del código aún no se han revelado, se anticipa que se alineará estrechamente con los principios establecidos en la orden del presidente Biden.

Equilibrando riesgos y beneficios

El código abarca una amplia gama de objetivos destinados tanto a mitigar el daño potencial como a maximizar las ventajas de la tecnología de IA. Estos objetivos incluyen:

Ingeniería de materiales biológicos: Fomentar el uso responsable de la IA en la ingeniería de materiales biológicos.

Detección de contenido generado por IA: Desarrollar métodos para detectar contenido generado por IA, especialmente deepfakes.

Prevención de la discriminación: Implementar herramientas para evitar que la IA exacerbe la discriminación y el sesgo en varias aplicaciones.

IA en la justicia penal: Establecer las mejores prácticas para el uso de la IA en el sistema de justicia penal para garantizar la equidad y la precisión.

Aumento del talento en IA: Fomentar un aumento generalizado del talento en IA en el gobierno para apoyar la seguridad y el desarrollo de la IA.

La cumbre de seguridad de IA del Reino Unido 2023

Mientras tanto, en el Reino Unido, la Cumbre de Seguridad de IA 2023 está programada para tener lugar en Bletchley Park, un sitio conocido por su papel en la descifrado de los códigos Enigma durante la Segunda Guerra Mundial. Esta cumbre reúne a gobiernos, empresas de IA, grupos de la sociedad civil y expertos para deliberar sobre los riesgos asociados con la IA y cómo pueden mitigarse eficazmente. 

Los objetivos clave de la cumbre incluyen establecer una comprensión compartida de los riesgos que plantean las IA avanzadas, fomentar la colaboración internacional en la seguridad de la IA, determinar medidas organizativas para mejorar la seguridad de la IA e identificar áreas para la colaboración potencial en investigación.

Sin embargo, la Cumbre de Seguridad de IA 2023 ha enfrentado críticas de varios sectores. Una carta abierta dirigida al primer ministro Sunak, firmada por sindicatos, defensores de los derechos y otras organizaciones, plantea preocupaciones sobre la exclusividad de la cumbre. 

Los críticos argumentan que el evento se centra excesivamente en discusiones especulativas sobre los riesgos “existenciales” distantes de la IA avanzada, que son desarrollados principalmente por corporaciones involucradas en la configuración de las regulaciones de IA. Sostienen que los daños reales de la IA, como la pérdida de empleos impulsada por algoritmos y el perfilamiento injusto, los sufren millones de personas en la actualidad.

La crítica destaca una preocupación ética crucial con respecto a la autorregulación en la industria de la IA. A medida que las empresas de IA participan activamente en la configuración de las reglas que rigen su tecnología, surge el potencial de conflictos de interés, lo que dificulta distinguir entre el interés corporativo y el bien social más amplio.

La efectividad de las reglas voluntarias y la definición de mal uso siguen siendo aspectos ambiguos de la regulación de la IA. Lo que una parte puede considerar mal uso, otra podría percibirlo como una oportunidad de negocio. Por ejemplo, el beneficio obtenido de los datos personales, una piedra angular de las redes sociales y la búsqueda, puede ser visto como mal uso por algunos.

Compromiso serio para abordar los desafíos de la IA

A pesar de estas complejidades, la intensa actividad, cumbres y discusiones a nivel gubernamental en todo el mundo demuestra una mayor conciencia y compromiso para abordar las implicaciones de la IA. El campo de la IA se está tomando más en serio que nunca, con el reconocimiento de la necesidad de establecer un equilibrio entre la innovación y la responsabilidad.