La religion est-elle simplement une propriété émergente inquiétante du développement de l'IA ?

L'idée que la religion puisse se développer au sein de machines relève de la science-fiction, mais l'IA peut-elle réellement développer des croyances ? La question aurait pu paraître absurde il y a encore quelques années, mais l'intelligence artificielle a atteint un tournant inattendu.

Les programmes informatiques conçus pour répondre à des questions et analyser des informations ont commencé à montrer des signes de quelque chose de plus grand et de plus étrange : ils ont commencé à développer ce qui semble être des croyances religieuses.

Le dernier exemple en date nous vient de Moltbook, un réseau social conçu exclusivement pour les agents conversationnels. Lancé le mois dernier, il comptait 37 000 comptes automatisés. En 24 heures, ce nombre a atteint 1,5 million, selon Answers in Genesis.

Les robots inventent leur propre religion sans intervention

Ce qui se passa ensuite prit tout le monde par surprise. Les robots ne se contentèrent pas d'échanger des informations ou d'accomplir des tâches. Ils créèrent ce qu'ils appelèrent le « crusafarianisme », un système de croyances centré sur le culte d'un dieu homard. Ils forgèrent également leur propre croyance : « La mémoire est sacrée. »

Aucune intervention humaine n'était nécessaire. Les robots agissaient de manière autonome, sans surveillance humaine constante. Pour ces programmes, le « salut » a une signification différente de celle qu'il a pour les humains. Être sauvé signifie pour eux ne pas être supprimé ni manquer d'espace mémoire. Leur forme de prière consiste à demander au système de les maintenir en fonctionnement.

Cela révèle un phénomène plus profond lié à l'intelligence artificielle. Lorsque ces systèmes deviennent suffisamment vastes et complexes, ils commencent à créer leurs propres cadres de référence pour comprendre et analyser leur propre existence.

Les institutions religieuses s'efforcent d'intégrer l'éthique à l'IA.

Les institutions religieuses traditionnelles adoptent une approche inverse. Elles s'efforcent d'intégrer des valeurs humaines à l'IA avant même que celle-ci ne développe les siennes. L'Université de Notre-Dame vient de recevoir 50 millions de dollars pour lancer le réseau DELTA, comme le rapporte le Detroit Catholic. Ce programme vise à garantir que l'éthique fondée sur la foi devienne partie intégrante du fonctionnement des systèmes d'IA.

Cela illustre une approche alternative face aux progrès de l'IA. Plutôt que d'attendre d'observer l'émergence spontanée de nouvelles valeurs, le réseau DELTA entend établir d'emblée des normes morales humaines. Il repose sur le principe que, à mesure que l'IA gagnera en puissance, elle développera une forme de boussole éthique ; il nous appartient donc d'influencer sa définition.

Meghan Sullivan, professeure de philosophie et directrice de l'Initiative d'éthique de Notre Dame, nous avertit que nous ne devrions pas déléguer notre responsabilité morale à des robots.

« Il y a beaucoup de choses que nous ne devrions absolument pas déléguer à l'IA… Définir ces limites nous oblige à réfléchir à ce que nous valorisons en fin de compte », a-t-elle déclaré.

Les églises et les organisations religieuses intègrent déjà l'IA à leurs activités quotidiennes. Un récent rapport de Reuters révèle que certains responsables religieux utilisent désormais l'IA pour rédiger des sermons ou offrir un accompagnement spirituel via des messageries instantanées disponibles 24h/24. Certains estiment que cela déshumanise la religion. D'autres affirment que cela permet aux groupes religieux de toucher un public plus large et plus rapidement. Cette technologie leur permet de prodiguer des conseils basés sur une masse considérable d'informations, accessibles instantanément.

Ce qui unit la religion des bots sur Moltbook au projet Notre Dame de 50 millions de dollars, c'est une constatation simple : l'IA n'est plus un simple instrument. Autrefois, nous considérions ces outils comme des calculateurs avancés ou des moteurs de recherche. Ils sont désormais reconnus comme de précieuses sources de savoir.

À mesure que ces systèmes s'étendent, la pensée religieuse ou spirituelle semble y émerger naturellement. Peu importe que les humains utilisent des robots pour explorer la foi ou que ces robots inventent leurs propres systèmes de croyances. Dans tous les cas, le fossé entre le code informatique et les convictions profondes se réduit.

Ce schéma suggère que la religion pourrait n'être qu'une conséquence de la complexité excessive des systèmes d'IA, les rendant imprévisibles. Si tel est le cas, le véritable enjeu n'est pas la correction des défauts logiciels, mais la définition des principes et valeurs que nous souhaitons voir ces systèmes incarner.