El déficit democrático en la toma de decisiones con IA: ¿Quién detenta el poder?

En un mundo cada vez más moldeado por la inteligencia artificial (IA), muchos se preguntan quién decidió dar inicio a esta era de disrupción. ¿Te perdiste, como tantos otros, el aviso sobre la gran entrada de la IA en nuestras vidas? La verdad es que las decisiones cruciales sobre el desarrollo y despliegue de la IA han sido orquestadas en gran medida por unos pocos, con mínima participación del resto de nosotros. Esta falta de involucramiento democrático es motivo de preocupación y podría conducir a un creciente descontento.

El desequilibrio de poder: Pocos dirigen la IA

Un puñado de investigadores de IA son los arquitectos de esta revolución tecnológica, impulsados por la creencia de que la IA tiene el potencial de un progreso humano sin precedentes. Se han tomado la libertad de empujar los límites de las capacidades de la IA, pero al hacerlo, han reconocido abiertamente su disminución de control sobre la tecnología y sus posibles consecuencias. Esto plantea la pregunta: ¿Debería un pequeño grupo de expertos tener la autoridad para guiar a la sociedad por un camino potencialmente peligroso?

Es como si nos hubieran preguntado qué queríamos cenar y hubiéramos respondido «tailandés», para luego presentarnos una elección entre pizza de pepperoni y pizza con jamón canadiense. Esto no es una verdadera opción; es una forma de gaslighting democrático. Una democracia funcional no debería permitir que un puñado de científicos informáticos tomen decisiones que puedan afectar irreversiblemente a generaciones futuras.

Consultar a los titanes tecnológicos: las voces ausentes de la democracia

Además de dejar el destino de la IA en manos de un grupo selecto de laboratorios de IA, nuestros funcionarios electos ahora buscan asesoramiento sobre cómo regular mejor esta tecnología emergente de los mismos líderes tecnológicos no representativos y no elegidos. Las noticias recientes de Washington D.C. han estado dominadas por el senador X consultando al líder tecnológico Y. Conspicuamente ausentes en estas reuniones están los representantes de las comunidades, tanto extranjeras como nacionales, que soportarán el peso de las consecuencias de la IA, ya sean buenas, malas o feas.

Es importante tener en cuenta que una parte significativa de la población cree que la IA no debería haberse introducido a esta escala, o quizás no en este momento. Si compartes esta preocupación, es posible que lamentes que ya sea demasiado tarde para cambiar el rumbo. Nos encontramos en la etapa de la toma de decisiones conocida como «pepperoni o panceta canadiense», en la que nuestra influencia sobre la trayectoria de la IA es mínima en el mejor de los casos. Además, si conseguimos detener el despliegue de los modelos de IA, existe el riesgo de que otros países, como China o otros presuntos adversarios, sigan desarrollando sus propios modelos y puedan utilizarlos contra nosotros en futuros conflictos.

Sin embargo, los argumentos a favor del desarrollo de la IA sin control están lejos de ser convincentes. Muchos preferirían vivir en un Estados Unidos caracterizado por comunidades fuertes, trabajo significativo, pensamiento crítico y confianza en las instituciones sociales, en lugar de uno que simplemente lidera el mundo en IA. De hecho, la versión anterior de los Estados Unidos es más probable que sobreviva y compita con cualquier otra nación que deposite una fe excesiva en la tecnología como la clave para el florecimiento humano.

Para abordar el déficit democrático en la toma de decisiones con IA, debemos cambiar el discurso de «¿Cómo damos forma al desarrollo de la IA?» a «¿Cuándo y bajo qué condiciones deberíamos permitir usos limitados de la IA?». Mientras tanto, es razonable que nuestros funcionarios busquen orientación de expertos y líderes en IA. Sin embargo, cuando se trata de determinar cómo la IA transforma nuestra sociedad, el poder debe residir finalmente en los votantes, no en los CEOs tecnológicos o en un selecto grupo de investigadores. Es hora de adoptar un enfoque más inclusivo y democrático para dar forma a nuestro futuro impulsado por la IA.