bletchleyLos gobiernos del mundo se reunieron en Bletchley Park en noviembre para una cumbre sobre IA que buscaba abordar los desafíos multifacéticos que plantea la inteligencia artificial . El evento, que se celebró del 1 al 2 de noviembre de 2023, atrajo mucha atención y especulaciones antes de su inicio. El foco de la cumbre fue principalmente mitigar los riesgos existenciales asociados con la IA avanzada, pero también se sumergió en las oportunidades económicas y las consideraciones regulatorias.
Resultado positivo de la cumbre de IA de Bletchley
En medio del escepticismo inicial sobre las confirmaciones de invitados y la ausencia de asistentes destacados, la cumbre de seguridad de IA en Bletchley Park superó las expectativas. Los críticos, incluidos algunos conservadores centrados en China y políticos estadounidenses, cuestionaron la inclusión de representantes chinos en el evento. Además, surgieron dudas sobre el ambicioso intento del Reino Unido de liderar los esfuerzos globales en la regulación de la IA.
Sin embargo, la cumbre resultó ser un éxitomatic para Gran Bretaña. Contó con una lista de invitados notable, con la asistencia de figuras destacadas como Sam Altman de Open AI y la vicepresidenta de Estados Unidosdent Kamala Harris. Lo más destacado de la cumbre fue la Declaración de Bletchley, un amplio compromiso que involucra a 28 naciones y la Unión Europea para colaborar para abordar los riesgos existenciales de la IA. En particular, tanto Estados Unidos como China, junto con el Reino Unido, India y Australia, prometieron su apoyo.
Acceso gubernamental a modelos de IA
Durante la cumbre, el primer ministro Rishi Sunak anunció un avance significativo: las empresas de inteligencia artificial habían acordado otorgar a los gobiernos acceso temprano a sus modelos para evaluaciones de seguridad. Sin embargo, el anuncio fue escaso en detalles y se parecía a una declaración anterior hecha en junio. También se reveló el establecimiento del Frontier AI Task Force del Reino Unido como organismo permanente para supervisar la seguridad.
Orden ejecutiva de EE. UU. sobre IA
Apenas unos días antes de la cumbre de Bletchley, la vicepresidenta de Estados Unidosdent Kamala Harris, enfatizó el compromiso de Estados Unidos de seguir siendo un líder tecnológico en IA. Al mismo tiempo, eldent Joe Biden emitió una esperada orden ejecutiva destinada a regular integralmente las empresas de inteligencia artificial más grandes del mundo.
La orden ejecutiva se centra principalmente en abordar los riesgos conocidos edentde la IA a corto plazo, incluida la privacidad, la competencia y la discriminación algorítmica. Da prioridad a salvaguardar los derechos y libertades civiles de los estadounidenses. La orden exige a 25 agencias y departamentos federales, que supervisan áreas como vivienda, salud y seguridad nacional, que establezcan estándares y regulaciones para el uso y la supervisión de la IA. Además, introduce nuevos requisitos de presentación de informes y pruebas para las empresas detrás de los modelos de IA más potentes y obliga a las empresas cuyos modelos puedan plantear amenazas a la seguridad nacional a compartir sus medidas de seguridad.
Debates sobre la regulación global de la IA
Se espera que la Unión Europea presente una ambiciosa legislación sobre regulación de la IA a finales de año. Mientras tanto, el grupo G7 de economías desarrolladas está trabajando en un código de conducta separado para las empresas de IA. China también ha presentado su propia iniciativa a este respecto.
Los debates clave giran en torno a qué aspectos de la IA requieren regulación y quién debería asumir esta responsabilidad. Las empresas de tecnología generalmente abogan por una regulación limitada, dirigida a las aplicaciones de IA más avanzadas en lugar de a los modelos subyacentes. Sin embargo, con los rápidos avances tecnológicos, mantener esta postura es cada vez más difícil.
Estados Unidos y el Reino Unido creen que las agencias gubernamentales existentes son capaces de supervisar la regulación de la IA. Aun así, los críticos están preocupados por el tracde los reguladores estatales: figuras destacadas de la industria de la IA, como Mustafa Suleyman, cofundador de DeepMind, han propuesto el establecimiento de un régimen de gobernanza global similar al Panel Intergubernamental sobre el Cambio Climático. destinado a mejorar la transparencia en el trabajo de las empresas de IA. Suleyman incluso sugirió la posibilidad de una pausa en el entrenamiento de la próxima generación de sistemas de inteligencia artificial en los próximos cinco años.
IA de código abierto versus IA de código cerrado
También ha surgido un debate sobre los enfoques de código abierto versus de código cerrado para la investigación de la IA. Los defensores del código abierto argumentan que el predominio de las empresas con ánimo de lucro en la investigación de la IA puede conducir a resultados indeseables, y que los modelos de código abierto podrían acelerar la investigación sobre seguridad. Por el contrario, los defensores de los modelos de código cerrado argumentan que los riesgos asociados con la IA avanzada son demasiado grandes para permitir la distribución gratuita del código fuente de modelos potentes.
Equilibrar los riesgos de la IA y los beneficios económicos
Los gobiernos, incluido el Reino Unido, se encuentran en un delicado acto de equilibrio al reconocer la importancia de abordar los riesgos de la IA y al mismo tiempo permanecer abiertos a sus oportunidades comerciales. La IA está a punto de convertirse en una tecnología de uso general, con aplicaciones de amplio alcance comparables a innovaciones pasadas como la energía de vapor, la electricidad e Internet. Se espera que esta tecnología impulse mejoras significativas en la productividad y el crecimiento económico.
Neil Shearing, de Capital Economics, subraya la necesidad de escuchar más sobre cómo los gobiernos planean aprovechar los beneficios económicos potenciales de la IA. Si bien abordar los riesgos de la IA es crucial, no deben pasarse por alto los beneficios económicos que promete.
La cumbre de IA en Bletchley Park marcó un momento crucial en los debates globales sobre la regulación y la seguridad de la IA. A medida que los gobiernos avanzan por el camino a seguir, deben lograr un equilibrio entre abordar las amenazas potenciales de la IA y aprovechar sus inmensas oportunidades económicas.
Academia Cryptopolitan: ¿Quieres hacer crecer tu dinero en 2025? Aprenda cómo hacerlo con DeFi en nuestra próxima clase web. Guarda tu lugar
