Растут этические опасения, поскольку созданные с помощью ИИ роботы-убийцы ставят под сомнение цифровое достоинство

Эксперты по искусственному интеллекту предупреждают, что искусственный интеллект (ИИ) «мертвых ботов», или цифровая реанимация умерших, вскоре станет реальностью. Поэтому необходимо регулирование этой проблемы, чтобы предотвратить психологический вред, причиняемый людям «преследованием» их создателей и пользователей.

Примером таких услуг, которые, будучи технологически возможными и юридически допустимыми, позволят создать чат-ботов, которые используют сохраненные разговоры с потерянным человеком, чтобы «перезвонить бабушке» в смысле понимания эмоций людей после прослушивания таких разговоров, как утверждают ученые из Кембриджского университета. 

В исследовании говорится, что некоторые компании предлагают услуги, напоминающие эпизод «Скоро вернусь» из сериала «Черное зеркало», где чат-бот позволяет имитировать языковые модели и черты личности умершего человека, используя оставленный им цифровой след.

Правила безопасности призваны защитить цифровое достоинство

В исследовании, опубликованном в журнале Philosophy and Technology, приводятся примеры того, как компании могут использовать «мертвых ботов», например, для рекламы товаров человеку, подобно тому как это делают с умершим близким человеком, или для травмирования детей, утверждая, что умерший родитель «с вами». 

Однако во всех случаях ненадежные компании и безрассудные деловые инициативы могут привести к долгосрочному психологическому ущербу и нарушению прав умершего, говорится в статье.

Исследователи предполагают, что ежедневное взаимодействие сопровождается огромной эмоциональной нагрузкой. Они утверждают, что такая эмоциональная поддержка также может препятствовать процессу переживания горя — естественному способу справиться с утратой. 

Этическое минное поле

 Доктор Катажина Новачик-Басинска, одна из соавторов исследования из Кембриджского центра Леверхулма по изучению будущего интеллекта (LCFI), заявила: «Быстрый прогресс в области генеративного искусственного интеллекта означает, что практически любой человек, имеющий доступ к интернету и базовые знания, может «оживить» умершего близкого человека». 

Эта область ИИ, похоже, представляет собой этическое минное поле. Самое важное — гарантировать, что достоинство умершего не будет оскорбляться коммерческими сервисами, такими как, например, поставщики услуг цифровой загробной жизни. Серьёзную проблему могут представлять компании, которые будут коммерциализировать свою традиционную онлайн-инфраструктуру через рекламу. 

Особенно рискованно вовлекать в этот процесс детей, поскольку они могут столкнуться с самым худшим исходом. Помощь в виде «мертвых ботов» вскоре может стать необходимостью для родителей, которые хотят утешить своих детей, недавно потерявших маму или папу.

Влияние на процесс переживания горя

Однако нет исследований, которые могли бы указать на целесообразность таких усилий, что должно заставить задуматься об их возможных последствиях, которые могут быть весьма неприятными, не говоря уже о том, что они могут негативно повлиять на нормальный процесс траура.

Согласно исследованию, «ни одна служба развлечений не может доказать, что разрешение детям взаимодействовать с «мертвыми роботами» приносит пользу или, по крайней мере, не наносит вреда этой уязвимой группе».

Чтобы обеспечить достоинство умерших и психологическое благополучие живых, исследователи предлагают ряд передовых практик, которые могут быть использованы вплоть до принятия законов, регулирующих их.

Этим платформам нужны протоколы для «отставки» мертвых ботов, ограничения их интерактивных функций только для взрослых, признания ограничений любого искусственного объекта, работающего в полную силу, и обеспечения максимальной прозрачности с клиентами.

Глобальный охват и разнообразные возможности применения

По словам исследователей, существуют платформы, на которых можно сгенерировать изображение умершего человека с помощью ИИ за умеренную плату. Например, проект «Декабрь», изначально использовавший модели GPT, а затем перешедший на их системы, а также приложения, такие как Hereafter.

Аналогичные китайские сервисы, указанные в исследовании, существуют. В 2021 году Джошуа Барбо привлёк внимание общественности , разработав чат-бот с помощью GPT-3, который говорил голосом его умершей подруги. В 2015 году Евгения Куйда превратила текстовые сообщения своей умершей подруги в чат-бота, что, в свою очередь, дало толчок развитию самого популярного приложения-компаньона на основе искусственного интеллекта Replika.

Технология не ограничивается чат-ботами. В 2021 году MyHeritage, сайт по генеалогии, представил функцию Deep Nostalgia, которая генерировала анимированные видеоролики из фотографий предков пользователей. Как только функция стала вирусной, компания была вынуждена признать, что многим пользователям она показалась жутковатой. С постепенным развитием этих технологий не остаётся ничего другого, кроме как учитывать этические аспекты для содействия развитию.