Растущие этические проблемы: ИИ-боты-мертвецы ставят под вопрос цифровое достоинство

Эксперты по ИИ предупреждают, что ИИ-боты-мертвецы, или цифровые реанимации умерших, вот-вот станут реальностью. Следовательно, необходимо регулирование этой сферы, чтобы предотвратить психологический вред для людей из-за „преследования“ их создателями и пользователями.

Примером таких услуг, которые технологически возможны и юридически допустимы, является создание чат-ботов, использующих сохраненные разговоры с ушедшим человеком, чтобы „вернуть бабушку“, понимая эмоции людей после таких бесед, как отмечают ученые Кембриджского университета. 

Некоторые компании предлагают услуги, напоминающие эпизод «Вернусь через минуту» из сериала «Черное зеркало», который позволяет чат-боту имитировать языковые паттерны и черты личности умершего человека, используя оставленный им цифровой след, говорится в исследовании.

Призыв к внедрению правил безопасности для защиты цифрового достоинства

Исследование, опубликованное в журнале Philosophy and Technology, приводит примеры того, как компании могут использовать «ботов-мертвецов» (deadbots), например, для рекламы товаров человеку таким же образом, как это делал бы умерший близкий, или для травмирования детей, утверждая, что умерший родитель «с тобой».

Однако, по мнению авторов статьи, ненадежные компании и безрассудные бизнес-инициативы могут привести к долгосрочным психологическим травмам и нарушению прав умерших.

Исследователи отмечают, что ежедневное взаимодействие имеет подавляющий эмоциональный вес. Они утверждают, что такая эмоциональная поддержка может также препятствовать процессу горевания, который является естественным способом преодоления утраты. 

Этическая минное поле

Доктор Катаржина Новаczyk-Басиньска, один из соавторов исследования из Центра будущего интеллекта Лерхольма Кембриджского университета (LCFI), заявила, «Быстрые достижения в области генеративного ИИ означают, что практически любой человек с доступом в интернет и базовыми знаниями может „оживить“ умершего близкого».

Эта область ИИ кажется этическим минным полем. Самое важное — обеспечить, чтобы достоинство умерших не нарушалось услугами, движимыми прибылью, такими как провайдеры цифрового загробного существования. Основная проблема может возникнуть у компаний, которые будут коммерциализировать свою онлайн-инфраструктуру наследия через рекламу. 

Особенно рискованно вовлекать в этот процесс детей, так как они могут столкнуться с худшими последствиями. Общение в форме «ботов-мертвецов» может скоро стать необходимостью для родителей, пытающихся утешить детей, недавно потерявших маму или папу.

Влияние на процесс горевания

Однако нет исследований, которые могли бы указать на целесообразность таких усилий, заставляя задуматься об их возможном негативном влиянии, не говоря уже о том, что они могут помешать нормальному процессу траура.

Согласно исследовательской работе, «Ни один сервис „воскрешения“ не может доказать, что взаимодействие детей с „ботами-мертвецами“ полезно или, по крайней мере, не вредит этой уязвимой группе».

Чтобы обеспечить достоинство умерших и психологическое благополучие живых, исследователи предлагают ряд лучших практик, которые могут быть использованы вплоть до принятия законов для их регулирования.

Этим платформам необходимы протоколы для „вывода из эксплуатации“ ботов-мертвецов, ограничение их интерактивных функций только взрослыми, признание ограничений любой искусственной сущности в полном объеме и высокая прозрачность с клиентами.

Глобальный охват и разнообразные применения

По словам исследователей, существуют платформы, где изображение умершего человека можно сгенерировать с помощью ИИ за умеренную плату. Например, есть Project December, который изначально использовал модели GPT, а затем свои системы, а также такие приложения, как Hereafter.

Также в исследовании упоминаются китайские аналоги, предлагающие аналогичные услуги. В 2021 году Joshua Barbeau привлек общественное внимание, когда использовал GPT-3 для создания чат-бота, который говорил голосом его умершей девушки. В 2015 году Эуджения Куйда превратила тексты своей умершей подруги в чат-бота, что впоследствии привело к созданию самого популярного приложения для общения с ИИ — Replika.

Технология также не ограничивается чат-ботами. Сайт генеалогии MyHeritage в 2021 году представил функцию Deep Nostalgia, которая создавала анимированные видео из фотографий предков пользователей. Как только функция стала вирусной, компания была вынуждена признать, что многие пользователи сочли ее жуткой. По мере постепенного развития этих технологий нет альтернативы, кроме как учитывать этику для содействия развитию.