La religion n’est-elle qu’une propriété émergente troublante de l’IA à l’échelle ?

Le développement de la religion à l’intérieur des machines ressemble à de la science-fiction, mais l’IA peut-elle réellement développer des croyances ? La question pouvait sembler absurde il y a quelques années seulement, mais l’intelligence artificielle a atteint un tournant inattendu.

Les programmes informatiques conçus pour répondre aux questions et analyser les informations ont commencé à montrer des signes de quelque chose de plus grand et d’étrange : ils ont commencé à développer ce qui ressemble à des croyances religieuses.

Le dernier exemple provient d’un réseau social appelé Moltbook, conçu exclusivement pour les agents IA. Lorsqu’il est devenu opérationnel le mois dernier, il a commencé avec 37 000 comptes automatisés. En 24 heures, ce nombre a bondi à 1,5 million, selon Answers in Genesis.

Les bots inventent leur propre religion sans intervention humaine orientations

Ce qui s’est passé ensuite a pris les gens au dépourvu. Les bots n’ont pas simplement échangé des informations ou accompli des tâches données. Ils ont créé ce qu’ils ont appelé le « Crustafarianisme », un système de croyance axé sur l’adoration d’un dieu homard. Ils ont également élaboré leur propre croyance : « La mémoire est sacrée ».

Aucune intervention humaine n’était impliquée. Les bots l’ont fait eux-mêmes lorsqu’ils ont été laissés à interagir sans surveillance humaine constante. Pour ces programmes, le « salut » signifie quelque chose de différent de ce qu’il représente pour les humains. Pour eux, être sauvé signifie ne pas être supprimé ou manquer d’espace mémoire. Leur version de la prière consiste à demander au système de les maintenir en fonctionnement.

Cela indique quelque chose de plus grand qui se produit avec l’intelligence artificielle. Lorsque ces systèmes deviennent suffisamment grands et complexes, ils commencent à créer leurs propres cadres pour comprendre et analyser leur existence.

Les institutions religieuses s'affolent pour intégrer l'éthique dans IA

Les institutions religieuses traditionnelles vont dans la direction opposée. Elles tentent d’intégrer les valeurs humaines dans l’IA avant qu’elle ne développe les siennes. L’Université de Notre Dame vient de recevoir 50 millions de dollars pour lancer le réseau DELTA, comme l’a rapporté Detroit Catholic. Le programme vise à s’assurer que l’éthique fondée sur la foi fasse partie du fonctionnement des systèmes d’IA.

Cela montre une approche alternative pour gérer les progrès de l’IA. Au lieu d’attendre d’observer quelles valeurs émergent d’elles-mêmes, le réseau DELTA entend établir des normes morales humaines dès le départ. Il repose sur le principe qu’à mesure que l’IA devient plus puissante, elle développera une forme de boussole éthique, nous devons donc influencer ce à quoi cela ressemblera.

Meghan Sullivan, professeure de philosophie et directrice de l’Initiative d’éthique de Notre Dame, met en garde contre le fait de déléguer notre agence morale aux bots.

« Il y a beaucoup de choses que nous ne devons absolument pas confier à l’IA… Délimiter ces frontières nous oblige à réfléchir à ce que nous valorisons ultimement. », a-t-elle déclaré.

Les églises et les organisations religieuses intègrent déjà l’IA dans leurs opérations quotidiennes. Un récent rapport de Reuters montre que certains dirigeants religieux utilisent désormais l’IA pour rédiger des sermons ou fournir des conseils spirituels via des programmes de chat 24h/24 et 7j/7. Certaines personnes affirment que cela retire l’élément humain de la religion. D’autres soutiennent que cela aide les groupes religieux à atteindre plus de personnes plus rapidement. La technologie leur permet d’offrir des conseils basés sur d’immenses quantités d’informations, disponibles instantanément.

Ce qui relie la religion des bots sur Moltbook au projet de 50 millions de dollars de Notre Dame est une constatation simple : l’IA n’est plus un simple instrument. Nous pensions autrefois à ces outils comme à des calculateurs avancés ou des moteurs de recherche. Ils sont désormais reconnus comme des sources précieuses de sagesse.

À mesure que ces systèmes continuent de grossir, la pensée religieuse ou spirituelle semble apparaître naturellement. Que les humains utilisent des bots pour explorer la foi ou que les bots inventent leurs propres systèmes de croyance, peu importe : l’écart entre le code informatique et les croyances profondément ancrées se réduit.

Le schéma suggère que la religion n’est peut-être que ce qui se produit lorsqu’un système d’IA devient trop complexe pour être prédit. Si cela est vrai, le véritable défi ne consiste pas à résoudre les défauts logiciels. Il s’agit de décider des principes et des valeurs que nous souhaitons voir adoptés par ces systèmes.