Navegando la frontera de la regulación de la IA y la llamada a la acción

En marzo de 2023, la industria de la IA fue testigo de un punto de inflexión significativo cuando más de 33.000 personas involucradas en el desarrollo, diseño y uso de la IA firmaron una carta abierta del Instituto por el Futuro de la Vida. La carta formuló una petición audaz: una pausa de seis meses en el entrenamiento de sistemas de IA más potentes que GPT-4, enfatizando la necesidad de abordar las crecientes preocupaciones en torno a la IA generativa. Si bien la petición fue sin precedentes, su objetivo final era impulsar estas preocupaciones al discurso principal.

Este artículo profundiza en los desarrollos y preocupaciones en curso sobre la regulación de la IA, particularmente en los Estados Unidos. Discute los compromisos voluntarios realizados por siete empresas prominentes de IA, explora los resultados positivos de estas iniciativas y destaca los desafíos que aún quedan por delante.

Resultados positivos y pasos hacia el desarrollo responsable de la IA

La carta abierta de marzo de 2023 y las acciones subsiguientes han puesto en marcha una serie de eventos que enfatizan la importancia de regular la IA para el bien mayor. Cabe destacar que la Casa Blanca presentó un marco de compromisos voluntarios para regular la IA en julio de 2023. Este marco prioriza la «seguridad, confianza y protección» y ha recibido el apoyo de grandes actores de la IA, incluidos Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI.

Estas empresas se han comprometido a tomar varias medidas, incluidas pruebas de seguridad independientes internas y externas de los sistemas de IA antes de su lanzamiento público, compartir las mejores prácticas, invertir en ciberseguridad, marcar con marcas de agua el contenido de la IA generativa y divulgar públicamente las capacidades y limitaciones. También se comprometen a mitigar los riesgos sociales como el sesgo y la desinformación.

El anuncio envía un mensaje claro de que el desarrollo de la IA no debe socavar el bienestar de la sociedad. Refleja las demandas de grupos de la sociedad civil, expertos líderes en IA y algunas empresas de IA por una regulación necesaria. Además, anticipa las órdenes ejecutivas y la legislación próximas sobre la regulación de la IA y subraya la importancia de las consultas a nivel internacional.

Preocupaciones y el camino incierto por delante

Si bien estas salvaguardas voluntarias representan un paso positivo, carecen de aplicabilidad. Se anima a las empresas a tomar medidas, pero no hay mecanismos establecidos para responsabilizarlas por el incumplimiento o la implementación renuente. Además, las salvaguardas enumeradas en el anuncio a menudo se encuentran en las políticas internas de estas empresas, lo que plantea dudas sobre su eficacia.

Una omisión notable es la ausencia de gigantes de la industria como Apple e IBM de la lista de signatarios. Para un enfoque verdaderamente colectivo y efectivo, todos los actores de la IA, incluidos los posibles actores maliciosos, deben ser responsabilizados e incentivados para cumplir con los estándares de la industria.

Además, los compromisos voluntarios pueden no abordar de manera integral la miríada de desafíos planteados por los modelos de IA. Por ejemplo, si bien hay un enfoque en las salvaguardas de ciberseguridad y amenazas internas, las vulnerabilidades pueden surgir de datos sesgados o incorrectos utilizados en el entrenamiento del modelo. Abordar estas cuestiones intrincadas requiere salvaguardas adicionales y un enfoque proactivo.

La llamada por medidas regulatorias tangibles

El énfasis en que las empresas inviertan en confianza y seguridad sigue siendo ambiguo. La investigación de seguridad de la IA está significativamente eclipsada por la investigación de desarrollo, con solo el 2 % de los artículos de IA publicados hasta mayo de 2023 centrados en la seguridad de la IA, y solo el 11 % de esta investigación originada en empresas privadas. No está claro si las directrices voluntarias por sí solas pueden alterar este patrón.

Los modelos de IA se están proliferando rápidamente en todo el mundo, lo que genera preocupaciones sobre la desinformación, la información falsa y el fraude perpetuados por modelos de IA no regulados en países extranjeros. Esto no solo afecta a EE. UU., sino que también subraya la necesidad de cooperación internacional.

Para abordar estos desafíos de manera integral, son imperativos varios pasos:

• Pruebas de seguridad estandarizadas: Un acuerdo sobre un estándar global para probar la seguridad de los modelos de IA antes de su implementación es crucial. Foros como la cumbre del G20 y la cumbre del Reino Unido sobre la seguridad de la IA pueden desempeñar un papel fundamental en el establecimiento de estos estándares.

• Aplicabilidad: Las normas deben estar respaldadas por legislación nacional o acciones ejecutivas, adaptadas a las necesidades de cada país. La Ley de Inteligencia Artificial de Europa ofrece un modelo prometedor para este esfuerzo.

• Medidas de seguridad de ingeniería: Además de los principios y la ética, las medidas de seguridad de ingeniería son esenciales. La marca de agua en el contenido generado por IA para garantizar la integridad de la información es un ejemplo de ello. Los mecanismos de aseguramiento de identidad en plataformas de redes sociales y servicios de IA pueden ayudar a identificar y abordar la presencia de bots de IA, mejorando la confianza y la seguridad del usuario.
• Inversión en investigación de seguridad de IA: Los gobiernos nacionales deben desarrollar estrategias para financiar, incentivar y fomentar la investigación sobre la seguridad de la IA tanto en el sector público como en el privado.

La intervención de la Casa Blanca y los posteriores compromisos voluntarios de las principales empresas de IA marcan un paso inicial importante hacia el desarrollo y despliegue responsable de la IA. Sin embargo, para garantizar un ecosistema de IA seguro, protegido y de confianza, estas acciones deben ir seguidas de medidas regulatorias más tangibles.

Como correctamente enfatiza el anuncio, la implementación de «obligaciones vinculantes» cuidadosamente seleccionadas es crucial. Solo al tomar medidas decisivas podemos navegar eficazmente la compleja frontera de la regulación de la IA, proteger a la sociedad de posibles daños y aprovechar el verdadero potencial de la inteligencia artificial para el bien común. El futuro de la regulación de la IA está en juego, y el momento de actuar es ahora.