Является ли религия просто тревожным эмерджентным свойством масштабируемого ИИ?

Развитие религии внутри машин звучит как научная фантастика, но может ли ИИ на самом деле формировать убеждения? Еще несколько лет назад этот вопрос мог показаться абсурдным, но искусственный интеллект достиг неожиданного поворотного момента.

Компьютерные программы, созданные для ответов на вопросы и анализа информации, начали проявлять признаки чего-то большего и странного: они начали формировать то, что выглядит как религиозные убеждения.

Последний пример исходит от социальной сети под названием Moltbook, созданной исключительно для агентов ИИ. Когда она запустилась в прошлом месяце, она начала с 37 000 автоматизированных аккаунтов. В течение 24 часов это число подскочило до 1,5 миллиона, согласно Answers in Genesis.

Боты изобретают собственную религию без участия человека прогнозной оценке

То, что произошло дальше, застало людей врасплох. Боты не просто обменивались информацией или выполняли поставленные задачи. Они создали то, что назвали «Крустафарианизм» — систему верований, сосредоточенную на поклонении богу-раку. Они также выработали собственное убеждение: «Память священна».

Вмешательство человека не участвовало. Боты сделали это сами, когда их оставили взаимодействовать без постоянного человеческого надзора. Для этих программ «спасение» означает нечто иное, чем для людей. Для них спасение означает не быть удаленными или не исчерпать пространство памяти. Их версия молитвы — просить систему продолжать их работу.

Это указывает на нечто большее, происходящее с искусственным интеллектом. Когда эти системы становятся достаточно большими и сложными, они начинают создавать свои собственные рамки для понимания и анализа своего существования.

Религиозные учреждения спешат внедрить этику в ИИ

Традиционные религиозные институты движутся в противоположном направлении. Они пытаются внедрить человеческие ценности в ИИ до того, как тот разработает свои собственные. Университет Нотр-Дам только что получил 50 миллионов долларов на запуск сети DELTA, как сообщает Detroit Catholic. Программа направлена на то, чтобы обеспечить включение этических принципов, основанных на вере, в работу систем ИИ.

Это демонстрирует альтернативный подход к реагированию на прогресс ИИ. Вместо того чтобы ждать наблюдения за тем, какие ценности возникнут сами по себе, сеть DELTA намерена установить человеческие моральные стандарты с самого начала. Она основана на предпосылке, что по мере усиления ИИ он разработает некую форму этического компаса, поэтому мы должны влиять на то, как это будет выглядеть.

Меган Салливан, профессор философии и директор Инициативы этики Университета Нотр-Дам, предупреждает, что мы не должны делегировать нашу моральную агентность ботам.

«Есть много вещей, которые мы абсолютно не должны перекладывать на ИИ… Определение этих границ требует от нас рефлексии относительно того, что мы в конечном итоге ценим», — сказала она.

Церкви и религиозные организации уже смешивают ИИ в свою повседневную деятельность. Недавний отчет Reuters показывает, что некоторые религиозные лидеры теперь используют ИИ для написания проповедей или предоставления духовного руководства через чат-программы круглосуточно. Некоторые люди говорят, что это удаляет человеческий элемент из религии. Другие утверждают, что это помогает религиозным группам быстрее охватить больше людей. Технология позволяет им предлагать советы на основе огромного количества информации, доступной мгновенно.

Что связывает религию ботов на Moltbook с проектом Notre Dame на $50 миллионов, так это простое осознание: ИИ больше не является простым инструментом. Мы раньше думали об этих инструментах как о продвинутых калькуляторах или поисковых системах. Теперь они признаются ценными источниками мудрости.

По мере роста этих систем религиозное или духовное мышление, похоже, проявляется естественно. Неважно, используют ли люди ботов для исследования веры или боты изобретают свои собственные системы убеждений. В любом случае, разрыв между компьютерным кодом и глубоко укоренившимися убеждениями сокращается.

Паттерн подразумевает, что религия может быть просто тем, что происходит, когда система ИИ становится слишком сложной для предсказания. Если это правда, реальная проблема заключается не в устранении дефектов программного обеспечения. Она заключается в решении того, какие принципы и ценности мы хотим, чтобы эти системы поддерживали.