La seguridad será un punto clave en la agenda de la Cumbre de IA de Seúl

Los gobiernos de Corea del Sur y el Reino Unido instarán a las empresas tecnológicas a abordar la supervisión de la seguridad de la inteligencia artificial en la cumbre internacional de IA de esta semana.

Esta reunión es una continuación de la primera cumbre global de seguridad de IA celebrada en el Parque Bletchley de Gran Bretaña el año pasado, donde varios gobiernos expresaron sus preocupaciones sobre los riesgos de la IA. Las empresas de IA también estaban presentes allí, ya que la tecnología en la que trabajan plantea estos riesgos.

En medio de los numerosos intentos internacionales de crear marcos de seguridad para la tecnología de rápido desarrollo que tiene el potencial de revolucionar muchas facetas de la sociedad, la cumbre de Seúl ha encendido preocupaciones sobre los riesgos emergentes para la vida diaria. 

“Aunque se han realizado esfuerzos positivos para dar forma a la gobernanza global de la IA, aún permanecen lagunas significativas.”

La cumbre del Reino Unido en noviembre reunió a investigadores, funcionarios gubernamentales, ejecutivos tecnológicos y representantes de organizaciones de la sociedad civil, muchos de los cuales tenían opiniones divergentes sobre la inteligencia artificial. Las reuniones tuvieron lugar a puerta cerrada en Bletchley. Junto con políticos como el Primer Ministro británico Rishi Sunak, los CEOs de OpenAI Sam Altman y Tesla, Elon Musk también asistieron, junto con muchos otros.

La Seguridad Será una Prioridad en la Cumbre de IA

La seguridad volverá a ser una prioridad máxima en la Cumbre de IA de Seúl, que comienza el martes. Los gobiernos del Reino Unido y Corea del Sur están coorganizando la reunión los días 21 y 22 de mayo.

Empresas de IA prominentes, como Microsoft, Anthropic, Google DeepMind, el creador de ChatGPT OpenAI y Mistral, una startup de IA francesa, están programadas para enviar representantes.

El Primer Ministro británico Rishi Sunak y el Presidente surcoreano Yoon Suk Yeol también escribieron un artículo conjunto, publicado en INews el lunes. Aceptando el potencial de esta tecnología, expresaron su voluntad de garantizar la seguridad, diciendo:

“Juntos, estamos decididos a aprovechar el potencial de esta tecnología para transformar el mundo para mejor.”

También enfatizaron que, al igual que las nuevas tecnologías traen nuevos riesgos, la IA también los trae. Señalaron el mal uso de la IA por parte de actores malintencionados que deliberadamente quieren aprovechar la IA para cometer delitos.

Hace poco, OpenAI disolvió su equipo de seguridad, llamado el equipo Superalignment, cuando su cofundador Ilya Sutskever y algunos otros empleados clave dejaron la empresa. El desarrollo provino de la empresa de IA líder del mundo solo unos días antes de la cumbre de Seúl, cuyo enfoque es mitigar los riesgos de la IA.

También lea: Se Urgen Cooperación Internacional para Abordar los Riesgos de la IA en la Cumbre de Bletchley Park

En otro desarrollo, Anthropic publicó hoy su informe sobre políticas de escalado responsable, que, según la empresa, ha mostrado buenos resultados. Sin embargo, no podemos confirmar estos resultados. Aunque no estamos en posición de comentar sobre ninguno de estos desarrollos, sí proporcionan algo de material para reflexionar.

La Innovación Debe Continuar

Después del ascenso meteórico de ChatGPT a la popularidad poco después de su lanzamiento en 2022, las empresas tecnológicas de todo el mundo comenzaron a invertir miles de millones de dólares en la construcción de sus modelos de IA generativa. Sunak y Yeol mencionaron la innovación a ritmo acelerado a medida que se lanzan nuevos modelos de IA diariamente. Dijeron:

“El gobierno puede fomentar esta innovación invirtiendo miles de millones, impulsando la investigación de vanguardia en nuestras universidades de clase mundial y asegurando que no sobre-regulemos a las startups que podrían producir la próxima gran idea.”

Los defensores de los modelos de IA generativa han aclamado la tecnología como un avance que mejorará las vidas de las personas y los negocios en todo el mundo, ya que puede producir texto, fotografías, música e incluso video en respuesta a indicaciones simples.

Algunos de estos productos que han captado la atención del público tienen su propio sesgo integrado, lo cual es motivo de preocupación. 

También lea: Trabajar con IA es Esencial, Dicen Expertos en IA en el Foro Global de Liderazgo de Fidic

Y no solo eso; la tecnología que funciona detrás de estos productos, llamada modelos de lenguaje grande (LLM), también se ha convertido en la tecnología base detrás de muchas soluciones en diferentes sectores. Desde vehículos de conducción autónoma hasta soluciones médicas, muchos dependen de los LLM de IA generativa para funcionar.

Todavía Hay Voces Preocupantes

Numerosas personas han exigido pautas internacionales para controlar el avance y la aplicación de la IA. Por ejemplo, un movimiento con sede en Nueva York llamado Ban the Scan está exigiendo una pausa en el uso del reconocimiento facial a nivel gubernamental y privado. 

Argumentan que estas tecnologías interfieren con la libertad personal y tienen una alta tasa de falsos positivos. Una página de la Electronic Frontier Foundation dice:

“El reconocimiento facial es una amenaza para la privacidad, la justicia racial, la libre expresión y la seguridad de la información. El reconocimiento facial en todas sus formas, incluido el escaneo facial y el seguimiento en tiempo real, plantea amenazas a las libertades civiles y la privacidad individual.”

No son los únicos. Los defensores de los derechos humanos, los gobiernos y los críticos han advertido que la IA puede ser abusada de muchas maneras. Por ejemplo, actores no estatales pueden usarla para influir en los votantes con informes de noticias ficticias o supuestas imágenes y videos “deepfake” de funcionarios electos. Otra preocupación creciente son los informes emergentes de estados que respaldan elementos malintencionados por sus intereses.

“También daremos los siguientes pasos en la formación de estándares globales que evitarán una carrera hacia el fondo.”

El artículo de los dos mencionó la declaración anterior y enfatizó que discutir normas internacionales para la IA en un foro más abierto sería útil. Al mismo tiempo, algunas organizaciones de derechos civiles surcoreanas han criticado a los organizadores por no invitar a suficientes países en desarrollo.

Francia también celebrará esta semana una conferencia “Viva Technology”, respaldada por LVMH, el grupo de lujo más grande del mundo. Durante el último año, Francia ha intentado atraer startups de IA para posicionarse como el campeón europeo de IA.

Reportaje de Cryptopolitan por Aamir Sheikh