Cumbre de IA de París: líderes tecnológicos y mundiales se reúnen para debatir políticas de IA, democracia y regulación

Ha sido una semana ajetreada en París. Líderes tecnológicos y mundiales se reunieron en el Grand Palais de París para asistir a la Cumbre de Acción sobre IA, que buscaba debatir sobre políticas de IA y encontrar puntos en común en materia de tecnología.

Líderes mundiales y representantes de más de 100 países participaron en la cumbre, entre ellos Sam Altman de OpenAI y políticos de gran influencia global como JD Vance y Narendra Modi. Sin embargo, faltaron algunos representantes clave. Elon Musk, por ejemplo, no pudo asistir en persona debido a que se encontraba inmerso en un trabajo crucial en Washington D.C., pero se ofreció a participar por videoconferencia.

Democracia, seguridad y transparencia

El objetivo de la cumbre era garantizar que la IA sea transparente, ética, segura, abierta, protegida y confiable. Eldent francés, Emmanuel Macron, quien coorganizó la cumbre de IA de París con Narendra Modi, mencionó que esta cumbre fue una llamada de atención para la estrategia de la UE.

La democracia fue una de las áreas clave de enfoque. Meredith Whittaker,dent de Signal, habló sobre el impacto de la IA en la democracia estadounidense. Meredith cuenta con una larga trayectoria en el sector tecnológico y trabajó en Google durante más de 10 años. Organizó huelgas masivas tras sentirse decepcionada por la ética de Google en materia de IA, antes de presentar su renuncia en 2019. La inteligencia artificial "nació de la vigilancia del modelo de negocio", afirmó. Whittaker añadió que "los datos pueden utilizarse como arma" contra la democracia en Estados Unidos.

Edgards Reinkevics,dentde Letonia, también parece compartir la opinión de Meredith Whittaker. Mencionó que Letonia se ha enfrentado a diversas campañas de desinformación y ciberataques debido a su situación geográfica y geopolítica. Otros países vecinos como Rusia, Estonia y Lituania también han sido blanco de numerosos ciberataques. Eldent mencionó: «En lo que respecta a la democracia, la IA se ha utilizado para interferir en las elecciones, especialmente en Rumanía». Añadió: «En Letonia, aprobamos una ley que exige que la IA esté etiquetada [para prevenir la desinformación]»

Ladent de la CNIL (Autoridad Nacional de Protección de Datos de Francia), Marie-Laure Denis, también advirtió sobre la viabilidad de llevar a cabo ciberataques utilizando código complejo generado con IA. Mencionó que las garantías y la confianza en el desarrollo de la IA son importantes para la sostenibilidad a largo plazo de esta tecnología. Sin embargo, no todos los representantes coincidieron en cuanto a la democracia. Por ejemplo, la abogada y activista pakistaní Nighat Dad preguntó: "¿Son democráticos nuestros intercambios en esta mesa redonda? ¿Hablamos de todo el mundo o solo de las democracias del Norte Global?"

Eldent letón Reinkevics comentó que no está claro hacia dónde se dirige actualmente la IA. Afirmó que las empresas desean aprovechar sus beneficios. Sin embargo, cada país tiene prioridades diferentes, y el acuerdo global sobre IA aún está muy lejos.

En cuanto a la seguridad, Ursula von der Leyen, presidenta de la UEdent declaró: «La IA necesita la confianza de la gente y debe ser segura. De hecho, este es el propósito de la Ley de IA: establecer un conjunto único de normas de seguridad para los 450 millones de habitantes de la Unión Europea»

Dario Amodeidenttres áreas de políticas de IA que requieren atención urgente

Representantes de la empresa de IA Anthropic también asistieron a la cumbre. El director ejecutivo de Anthropic, Dario Amodei, mencionó que tres áreas de la política de IA requieren atención inmediata: el liderazgo democrático, los riesgos de seguridad y la disrupción económica. Señaló que los países democráticos deben mantenerse a la vanguardia de los regímenes autoritarios en la carrera por la IA. Añadió que se debe prestar mayor atención a las cadenas de suministro de IA, incluyendo los equipos de fabricación de semiconductores y chips, así como a la ciberseguridad, para preservar el liderazgo democrático.

La IA conlleva diversos riesgos y amenazas difíciles de ignorar. Estos incluyen sistemas de IA autónomos y armas biológicas fuera del control humano. En cuanto a las disrupciones económicas, Amodei señaló que la IA causará disrupciones no solo en la industria tecnológica, sino que «podría representar el mayor cambio en el mercado laboral global en la historia de la humanidad»

Además, el CEO se refirió a la Cumbre de Acción de IA como una “oportunidad perdida” e instó a la industria a avanzar con mayor claridad y velocidad.

Estados Unidos y el Reino Unido se niegan a firmar la declaración de la cumbre mientras otros países reaccionan positivamente

La cumbre de dos días concluyó con una declaración que describe las reglas para el desarrollo de la IA, y se solicitó a los países que firmaran un compromiso. La declaración describió seis puntos principales:

1. Reducir las brechas digitales promoviendo una IA accesible.
2. Promover una IA abierta, transparente, confiable, segura, ética e inclusiva en línea con los marcos internacionales.
3. Garantizar que la innovación en IA prospere reduciendo la concentración del mercado.
4. Fomentar la implementación de IA para un crecimiento sostenible y al mismo tiempo impactar positivamente en los mercados laborales.
5. IA sostenible para el planeta y las personas.
6. Fortalecimiento de la cooperación y coordinación internacional.

Sin embargo, Estados Unidos y el Reino Unido no firmaron la declaración. Por otro lado, Canadá, India, Francia y China fueron los países clave que la firmaron. Se pidió a los firmantes que se comprometieran con el desarrollo seguro y fiable de la IA. Por lo tanto, la negativa refleja una clara diferencia entre los enfoques de la Unión Europea y Estados Unidos.

Respecto de la negativa, un portavoz del gobierno del Reino Unido dijo: “Consideramos que la declaración no aportaba suficiente claridad práctica sobre la gobernanza global ni abordaba suficientemente cuestiones más difíciles en torno a la seguridad nacional y el desafío que la IA plantea para ella”

Además, eldent estadounidense, J. D. Vance, advirtió contra un enfoque que impida a los promotores "asumir los riesgos necesarios para avanzar". J. D. Vance mencionó que Estados Unidos se centra en su propio plan de acción, que garantiza beneficios para todos los estadounidenses y evita un régimen regulatorio excesivamente precautorio. Ignoró las regulaciones vigentes en la UE e invitó a otros países a colaborar con Estados Unidos. Añadió: "Sigan ese modelo si les conviene"

Es evidente que el VC estadounidense no está a favor de una regulación ni censura excesivas de la IA. Afirmó que las políticas que promueven el crecimiento y la desregulación son el camino a seguir y añadió que la IA estadounidense "no se convertirá en una herramienta de censura autoritaria". Además, describió los planes de la administración Trump. El gobierno actual busca mantener una "vía de crecimiento que favorezca a los trabajadores" para la inteligencia artificial en Estados Unidos, de modo que se convierta en una herramienta para la creación de empleo.

Finalmente, Vance mencionó brevemente la importancia de la seguridad y una regulación flexible. Sin embargo, insistió en que el enfoque es más importante y, en el contexto actual, es más importante aprovechar la oportunidad para el bienestar de nuestras naciones y sus pueblos