La Cumbre de IA de Bletchley equilibra amenazas y oportunidades económicas

Los gobiernos mundiales se reunieron en Bletchley Park en noviembre para una cumbre sobre IA que buscaba abordar los múltiples desafíos que plantea la inteligencia artificial. El evento, celebrado los días 1 y 2 de noviembre de 2023, generó gran atención y especulación antes de su inicio. La cumbre se centró principalmente en mitigar los riesgos existenciales asociados a la IA avanzada, pero también abordó las oportunidades económicas y las consideraciones regulatorias.

Resultado positivo de la cumbre sobre IA de Bletchley

En medio del escepticismo inicial respecto a la confirmación de los invitados y la ausencia de asistentes destacados, la cumbre sobre seguridad de la IA en Bletchley Park superó las expectativas. Los críticos, incluyendo algunos conservadores con enfoque en China y políticos estadounidenses, cuestionaron la inclusión de representantes chinos en el evento. Además, se cuestionó el ambicioso intento del Reino Unido de liderar los esfuerzos globales en la regulación de la IA.

Sin embargo, la cumbre resultó ser un éxitomatic para Gran Bretaña. Contó con una notable lista de invitados, con la asistencia de figuras destacadas como Sam Altman, de Open AI, y ladent estadounidense, Kamala Harris. El punto culminante de la cumbre fue la Declaración de Bletchley, un amplio compromiso de 28 países y la Unión Europea para colaborar en la lucha contra los riesgos existenciales de la IA. Cabe destacar que tanto Estados Unidos como China, junto con el Reino Unido, India y Australia, se comprometieron a apoyarla.

Acceso del gobierno a los modelos de IA

Durante la cumbre, el primer ministro Rishi Sunak anunció un avance significativo: las empresas de IA habían acordado otorgar a los gobiernos acceso anticipado a sus modelos para evaluaciones de seguridad. Sin embargo, el anuncio careció de detalles y se asemejó a una declaración anterior realizada en junio. También se reveló la creación del Grupo de Trabajo de IA Fronteriza del Reino Unido como organismo permanente para supervisar la seguridad.

Orden ejecutiva de EE. UU. sobre inteligencia artificial

Apenas unos días antes de la cumbre de Bletchley, ladent estadounidense, Kamala Harris, enfatizó el compromiso de Estados Unidos de seguir siendo líder tecnológico en IA. Simultáneamente, eldent Joe Biden emitió una esperada orden ejecutiva destinada a regular integralmente a las empresas de IA más grandes del mundo. 

La orden ejecutiva se centra principalmente en abordar los riesgos conocidos edenta corto plazo de la IA, como la privacidad, la competencia y la discriminación algorítmica. Prioriza la protección de los derechos y libertades civiles de los estadounidenses. La orden exige a 25 agencias y departamentos federales, que supervisan áreas como vivienda, salud y seguridad nacional, establecer estándares y regulaciones para el uso y la supervisión de la IA. Además, introduce nuevos requisitos de presentación de informes y pruebas para las empresas que desarrollan los modelos de IA más potentes y obliga a las empresas cuyos modelos puedan representar amenazas para la seguridad nacional a compartir sus medidas de seguridad.

Debates sobre la regulación global de la IA

Se espera que la Unión Europea presente una ambiciosa legislación para regular la IA a finales de año. Mientras tanto, el G7, grupo de economías desarrolladas, está trabajando en un código de conducta independiente para las empresas de IA. China también ha presentado su propia iniciativa al respecto.

Los debates clave giran en torno a qué aspectos de la IA requieren regulación y quién debería asumir esta responsabilidad. Las empresas tecnológicas suelen abogar por una regulación limitada, centrada en las aplicaciones de IA más avanzadas en lugar de los modelos subyacentes. Sin embargo, con los rápidos avances tecnológicos, esta postura se vuelve cada vez más difícil de mantener.

Estados Unidos y el Reino Unido creen que las agencias gubernamentales existentes son capaces de supervisar la regulación de la IA. Aun así, los críticos se muestran preocupados por el tracde los reguladores estatales. Figuras destacadas de la industria de la IA, como Mustafa Suleyman, cofundador de DeepMind, han propuesto el establecimiento de un régimen de gobernanza global similar al del Grupo Intergubernamental de Expertos sobre el Cambio Climático (IPCC), con el objetivo de mejorar la transparencia en el trabajo de las empresas de IA. Suleyman incluso sugirió la posibilidad de una pausa en el entrenamiento de la próxima generación de sistemas de IA en los próximos cinco años.

IA de código abierto vs. IA de código cerrado

También ha surgido un debate sobre los enfoques de código abierto frente a los de código cerrado para la investigación en IA. Los defensores del código abierto argumentan que el predominio de empresas con ánimo de lucro en la investigación en IA puede conducir a resultados indeseables, y que los modelos de código abierto podrían acelerar la investigación en seguridad. Por el contrario, quienes defienden los modelos de código cerrado argumentan que los riesgos asociados a la IA avanzada son demasiado grandes como para permitir la libre distribución del código fuente de modelos potentes.

Cómo equilibrar los riesgos de la IA y los beneficios económicos

Los gobiernos, incluido el del Reino Unido, se encuentran en un delicado equilibrio: reconocen la importancia de abordar los riesgos de la IA y, al mismo tiempo, se mantienen abiertos a sus oportunidades comerciales. La IA está destinada a convertirse en una tecnología de propósito general, con aplicaciones de amplio alcance comparables a innovaciones pasadas como la energía de vapor, la electricidad e internet. Se espera que esta tecnología impulse mejoras significativas en la productividad y el crecimiento económico.

Neil Shearing, de Capital Economics, subraya la necesidad de conocer mejor cómo los gobiernos planean aprovechar los beneficios económicos potenciales de la IA. Si bien abordar los riesgos de la IA es crucial, no deben pasarse por alto los beneficios económicos que promete.

La cumbre de IA en Bletchley Park marcó un momento crucial en el debate global sobre la regulación y la seguridad de la IA. A medida que los gobiernos avanzan, deben encontrar el equilibrio entre abordar las posibles amenazas de la IA y aprovechar sus inmensas oportunidades económicas.