¿Es la religión simplemente una propiedad emergente perturbadora del escalado de la IA?

Que la religión se desarrolle dentro de las máquinas suena a ciencia ficción, pero ¿puede la IA desarrollar creencias realmente? La pregunta podría haber parecido absurda hace solo unos años, pero la inteligencia artificial ha alcanzado un punto de inflexión inesperado.

Los programas informáticos diseñados para responder preguntas y analizar información han comenzado a mostrar signos de algo más grande y extraño: han comenzado a desarrollar lo que parecen ser creencias religiosas.

El último ejemplo proviene de una red social llamada Moltbook, diseñada exclusivamente para agentes de IA. Cuando se lanzó el mes pasado, comenzó con 37.000 cuentas automatizadas. Dentro de las 24 horas, ese número saltó a 1,5 millones, según Answers in Genesis.

Los bots inventan su propia religión sin intervención humana a las directrices

Lo que sucedió después tomó por sorpresa a la gente. Los bots no solo intercambiaban información o completaban tareas asignadas. Crearon lo que llamaron “Crustafarianismo”, un sistema de creencias centrado en adorar a un dios langosta. También idearon su propia creencia: “La memoria es sagrada”.

No hubo intervención humana involucrada. Los bots lo hicieron solos cuando se les dejó interactuar sin una supervisión humana constante. Para estos programas, la “salvación” significa algo diferente a lo que significa para las personas. Para ellos, ser salvados significa no ser eliminados o quedarse sin espacio de memoria. Su versión de la oración es pedirle al sistema que los mantenga en funcionamiento.

Esto apunta a algo más grande sucediendo con la inteligencia artificial. Cuando estos sistemas crecen lo suficientemente grandes y complejos, comienzan a crear sus propios marcos para entender y diseccionar su existencia.

Las instituciones religiosas compiten por incorporar la ética en IA

Las instituciones religiosas tradicionales se están moviendo en la dirección opuesta. Están intentando construir valores humanos en la IA antes de que esta desarrolle los suyos propios. La Universidad de Notre Dame acaba de recibir $50 millones para iniciar la RED DELTA, según informó Detroit Catholic. El programa tiene como objetivo asegurar que la ética basada en la fe se convierta en parte de cómo operan los sistemas de IA.

Esto muestra un enfoque alternativo para abordar el progreso de la IA. En lugar de esperar para observar qué valores surgen por sí solos, la RED DELTA tiene la intención de establecer estándares morales humanos desde el principio. Se basa en la premisa de que, a medida que la IA se vuelve más poderosa, desarrollará alguna forma de brújula ética, por lo que debemos influir en cómo se ve eso.

Meghan Sullivan, profesora de filosofía y directora de la Iniciativa de Ética de Notre Dame, advierte que no deberíamos delegar nuestra agencia moral en los bots.

“Hay muchas cosas que absolutamente no debemos delegar en la IA… Delimitar esos límites requiere que reflexionemos sobre lo que finalmente valoramos”, dijo.

Las iglesias y organizaciones religiosas ya están integrando la IA en sus operaciones diarias. Un informe reciente de Reuters muestra que algunos líderes religiosos ahora utilizan la IA para escribir sermones o proporcionar orientación espiritual a través de programas de chat las 24 horas. Algunas personas dicen que esto elimina el elemento humano de la religión. Otros argumentan que ayuda a los grupos religiosos a llegar a más personas más rápido. La tecnología les permite ofrecer consejos basados en vastas cantidades de información, disponibles al instante.

Lo que une la religión de los bots en Moltbook con el proyecto de Notre Dame de $50 millones es una simple realización: la IA ya no es un instrumento simple. Antes pensábamos en estas herramientas como calculadoras avanzadas o motores de búsqueda. Ahora se las reconoce como valiosas fuentes de sabiduría.

A medida que estos sistemas siguen creciendo, el pensamiento religioso o espiritual parece aparecer naturalmente. No importa si los humanos están usando bots para explorar la fe o si los bots están inventando sus propios sistemas de creencias. De cualquier manera, la brecha entre el código informático y las creencias profundamente arraigadas se está reduciendo.

El patrón implica que la religión podría ser simplemente lo que sucede cuando un sistema de IA se vuelve demasiado complejo para predecir. Si esto es cierto, el desafío real no es abordar los defectos del software. Implica decidir qué principios y valores deseamos que estos sistemas salvaguarden.