Adoptar datos para un futuro de IA seguro

En 2023, la Inteligencia Artificial General (IAG) se popularizó, transformando todo, desde la ayuda con las tareas escolares hasta la creación de contenido en redes sociales. Casos destacados, como su inclusión en el Discurso del Rey, destacaron su creciente influencia. Sin embargo, esta rápida integración de la IA en la vida cotidiana ha suscitado inquietud. Las narrativas a menudo se inclinan hacia temores distópicos, eclipsando los beneficios potenciales de la tecnología. Un problema crítico ha sido la velocidad de implementación de la IA, que está superando el desarrollo de los marcos legislativos y éticos necesarios.

Las grandes tecnológicas han enfrentado críticas por su insuficiente autorregulación, descrita como "corregirse sus propios deberes de IA". En respuesta, Estados Unidos convocó a líderes del sector como Amazon, Google, OpenAI y Microsoft para firmar un acuerdo voluntario pionero. Este pacto permite a expertosdent en seguridad evaluar sus modelos de IA más recientes. De igual manera, en el Reino Unido, el primer ministro Rishi Sunak anunció planes para la creación del primer instituto de seguridad de IA del mundo, con el objetivo de abordar los riesgos para la seguridad nacional. Esta medida coincidió con un acuerdo internacional entre Estados Unidos, el Reino Unido y varios otros países para proteger la IA del uso indebido y garantizar sistemas "seguros por diseño".

El panorama global fue testigo de una competencia informal entre gobiernos para liderar la regulación de la IA. Un hito significativo fue la celebración en el Reino Unido de la primera Cumbre de Seguridad de la IA en Bletchley Park. Los debates se centraron en los aspectos más oscuros de la IA, comparándolos con los riesgos de una guerra nuclear. Sin embargo, se planteó preocupación por la exclusión de las comunidades con mayor probabilidad de verse afectadas por la IA en áreas como el empleo o la toma de decisiones algorítmica.

El desafío de regular lo desconocido

La estrategia del Reino Unido, articulada por Rishi Sunak, gira en torno al dilema de legislar una tecnología aún no plenamente comprendida. Este tema fue un punto central en la Cumbre del Open Data Institute, donde, junto con el cofundador Tim Berners-Lee, enfatizamos la importancia de la transparencia en los modelos de IA y sus datos. Argumentamos que un escrutinio eficaz de la IA debe involucrar a quienes comprenden sus complejidades, un grupo que no suele incluir a figuras políticas.

La ansiedad pública, en particular respecto al impacto de la IA en el empleo, ha sido palpable. Esto se hizodent en la huelga de 146 días del Gremio de Escritores de Estados Unidos y en la demanda de Getty Images contra Stability AI. A pesar de estas preocupaciones, la industria creativa ha adoptado la IA generativa, produciendo imágenes notables e incluso obras de arte premiadas. Herramientas como Nightshade surgieron para proteger los derechos de los creadores al "envenenar" los datos utilizados por la IA, lo que dificulta su capacidad de replicar el trabajo humano.

Un tema subyacente importante en 2023 fue la alfabetización de datos. Las encuestas realizadas a empresas de la lista Fortune 1000 revelaron un estancamiento en las iniciativas de datos, análisis e inteligencia artificial. La escasez de competencias digitales y de datos en el Reino Unido, especialmente en la administración pública, se destacó como una preocupación urgente.

2024 y más allá: los datos como base de la IA

De cara a 2024, es evidente que la base de una IA eficaz y segura reside en los datos. El poder y la seguridad de la IA están directamente relacionados con la calidad y la gobernanza de los datos que utiliza. Con las elecciones generales a la vuelta de la esquina, es fundamental que los programas de los partidos políticos reconozcan los datos como la piedra angular de los avances tecnológicos y se comprometan con su recopilación y distribución responsables. Otro aspecto crucial es mantener la supervisión humana en las decisiones basadas en IA, garantizando que siempre haya una persona disponible para revisar y apelar las decisiones tomadas por los algoritmos.

Los desafíos que OpenAI enfrentó a finales del año pasado al gestionar y supervisar el rápido desarrollo de la IA pusieron de relieve la necesidad de una participación humana diversa y cualificada en la formación y aplicación de la IA. El sector educativo está empezando a considerar la IA como una herramienta de aprendizaje universal, en lugar de un medio para el plagio. La esperanza para 2024 es fomentar una generación con conocimientos de datos, capaz de discernir los hechos de la ficción generada por la IA y preparada para ocupar los puestos de trabajo emergentes en un mundo aumentado por la IA.