La explosión de la inteligencia artificial (IA) está llenando nuestro mundo de sueños idealistas o predicciones apocalípticas, pero ninguna de ellas capta la amenaza real.
No nos enfrentamos a una "gran rebelión robótica" donde IA o robots organicen una toma de control hostil. Olvídense de las escenas de Terminator o Matrix; eso no está en el horizonte. La tecnología para que las IA conquisten el mundo no existe.
La IA puede sobresalir en tareas específicas, como plegar proteínas o jugar ajedrez, pero no es capaz de construir ejércitos ni de gobernar naciones.
Sin embargo, la ausencia de un auge robótico no significa que estemos a salvo. La IA se está infiltrando silenciosamente en nuestras vidas a través de medios menosmatic, pero igualmente poderosos: la burocracia digital.
El verdadero peligro no son los robots asesinos. Es la intrusión de la IA en las decisiones que controlan nuestra vida cotidiana. Los humanos hemos evolucionado para temer amenazas tangibles. Pensemos en grandes depredadores, como leones y tiburones.
Pero estamos menos preparados para detectar las amenazas del papeleo, los documentos o la burocracia. La burocracia en sí es un invento relativamente nuevo, pues se desarrolló hace tan solo 5.000 años con la creación de la escritura.
Antes de la escritura, la propiedad, por ejemplo, dependía de lo acordado por la comunidad. Si eras "dueño" de un terreno, era porque tus vecinos lo respetaban. No se requerían documentos.
De tablillas de arcilla a burócratas digitales
Todo eso cambió cuando la gente empezó a usar tablillas y registros de arcilla. Los documentos escritos significaron que los derechos de propiedad ya no dependían del consenso comunitario, sino de registros oficiales. Los antiguos mesopotámicos convirtieron los trozos de barro en símbolos oficiales de propiedad, transformando así la idea de propiedad.
Una decisión judicial podía basarse en una tablilla de arcilla que establecía la propiedad de un terreno, incluso si la comunidad no estaba de acuerdo. Hoy en día, nuestros sistemas siguen basándose en principios similares, solo que ahora usamos chips de silicio y registros digitales en lugar de arcilla.
Este cambio transformó las estructuras de poder. La propiedad se convirtió en algo que podía venderse e intercambiarse sin la aprobación de la comunidad local. Surgieron las burocracias, lo que posibilitó la recaudación de impuestos, la financiación militar y el gobierno central.
Los burócratas se convirtieron en actores esenciales de estos sistemas, utilizando registros, formularios y sellos para gestionar ejércitos, asignar recursos e incluso controlar leyes. Estos sistemas burocráticos dieron origen a estados centralizados con un amplio control sobre sus poblaciones, un control que ahora está siendo transferido a la IA.
La IA no necesita crear un ejército de robots; solo necesita dominar los sistemas burocráticos. Dentro de estos marcos, la IA puede tomar decisiones más influyentes que cualquier humano, como se ve hoy. Las IA ya deciden si obtenemos préstamos, ofertas de trabajo, admisiones universitarias e incluso diagnósticos médicos.
Imaginemos a banqueros con IA determinando la elegibilidad crediticia, jueces con IA resolviendo casos judiciales o IA militares calculando objetivos de ataque. La IA no necesita una rebelión robótica. El poder burocrático que hereda ya es enorme.
Los algoritmos de las redes sociales, aunque primitivos, ya ejercen un poder enorme. Los algoritmos de IA, en particular los de Facebook, X (antes Twitter), YouTube y TikTok, se diseñan con un objetivo: la interacción del usuario. Cuanto más tiempo permanezcan las personas en estas plataformas, mayor será el flujo de dinero hacia las corporaciones.
Mediante ensayo y error con miles de millones de usuarios, estos algoritmos descubrieron que despertar emociones como la codicia, la ira y el miedo aumenta la interacción. Al presionar estas emociones, mantienen a los usuarios enganchados.
Estos algoritmos no se limitaron a optimizar el tiempo de conexión. Fueron más allá y descubrieron que el contenido que provoca emociones intensas impulsa la interacción del usuario. Este descubrimiento ha provocado la propagación de teorías conspirativas, desinformación y divisiones sociales.
El mundo actual está inundado de indignación digital, alarmismo y polarización, gracias a algoritmos que priorizan los clics sobre la cohesión. Al explotar los detonantes emocionales, los algoritmos de las redes sociales han alimentado la epidemia actual de teorías conspirativas y noticias falsas.
Estos "decisores" algorítmicos no son inherentemente maliciosos. Al contrario, están optimizados para desempeñar sus funciones eficientemente. Sin embargo, sus decisiones carecen de la intuición humana o el contexto que solemos esperar en áreas tan importantes.
La IA puede tomar decisiones más rápidas o consistentes, pero si algo sale mal, las consecuencias pueden ser desastrosas. Este riesgo potencial ya se ha hecho visible en la influencia de las redes sociales en la sociedad, lo que sirve como advertencia de adónde podría conducir el poder descontrolado de la IA.
Biden establece reglas de IA para el Pentágono y las agencias de inteligencia
Eldent Joe Biden anunció un memorando de seguridad nacional con nuevas reglas para el uso de IA en la seguridad nacional, impidiendo que el Pentágono y las agencias de inteligencia utilicen IA en formas que contradigan los valores democráticos.
Esta es la primera directiva que guía el papel de la IA en la seguridad nacional. Las nuevas normas fomentarán la experimentación con IA, a la vez que garantizarán que los organismos gubernamentales no la utilicen para vulnerar derechos como la libertad de expresión o socavar los controles nucleares.
“Nuestro memorando establece el primer marco gubernamental sobre nuestros compromisos en materia de gestión de riesgos de la IA”, declaró el asesor de Seguridad Nacional, Jake Sullivan. Describió los objetivos para evitar sesgos, garantizar la rendición de cuentas y garantizar la supervisión humana de la IA en funciones sensibles.
Aunque no son legalmente vinculantes, las normas abarcan aplicaciones de seguridad nacional como la ciberseguridad, el contraespionaje y la logística en operaciones militares. Biden también impuso controles a las exportaciones el año pasado, lo que frenó los avances de China en inteligencia artificial al restringir el acceso a la tecnología.
Según la directiva, el Instituto de Seguridad de IA en Washington será responsable de inspeccionar las herramientas de IA para evitar su uso indebido antes de su lanzamiento, y la comunidad de inteligencia estadounidense priorizará el monitoreo de los avances de IA en otros países.
