Ужасающие глубокие фейки TikTok с жертвами преступлений требуют ужесточения регулирования
deepfakes
Краткое содержание
- Глубокие фейки, созданные ИИ на TikTok, изображающие жертв убийств, в основном детей, вызывают этические опасения.
- Распространение графических видео с глубокими фейками ИИ, изображающих жертв убийств, является незаконным, происходит без согласия и представляет значительные этические проблемы.
- Распространение видео с глубокими фейками ИИ на TikTok размывает грань между развлечением и повторной виктимизацией, что требует более строгих правил для предотвращения вреда.
В пугающем развитии событий, вызвавшем широкую обеспокоенность, TikTok стал платформой для распространения видео с глубокими фейками, созданными ИИ, с участием жертв убийств, в основном детей. Эти видео, использующие технологию искусственного интеллекта для воссоздания голосов и внешности жертв, изображают ужасающие сцены, в которых жертвы рассказывают подробности своей собственной трагической гибели. Контент, часто не имеющий надлежащих предупреждений, набрал миллионы просмотров, вызывая серьезные этические вопросы о пересечении фанатизма вокруг настоящих преступлений и новых возможностей ИИ.
Аккаунты TikTok, такие как @truestorynow и @TOUCHINGSTORY4U, набрали значительную аудиторию, публикуя эти тревожные видео с глубокими фейками ИИ. Хотя создатели утверждают, что видео не используют реальные фотографии жертв в качестве средства уважения к семьям, неточности и манипуляции в видео очевидны. Например, видео, посвященное истории Роялти Мэри Флойд, 20-месячной девочки, которая была зарезана и сожжена в духовке своей бабушкой в Миссисипи, демонстрирует ребенка, созданного ИИ, по имени Роди Мэри Флойд. Такие изменения и искажения не являются редкостью в этом поджанре контента о настоящих преступлениях на TikTok.
TikTok показывает темную сторону фанатизма вокруг настоящих преступлений
Эксперты и академики выразили свою обеспокоенность по поводу влияния этих видео с глубокими фейками ИИ. Пол Блейкли, ассистент-профессор уголовного правосудия в Университете Нью-Хейвен, описывает видео как «странные и жуткие» и предполагает, что они предназначены для вызова сильных эмоциональных реакций с целью получения популярности. Однако потенциальная повторная виктимизация вовлеченных семей, а также правовые последствия создания видео с глубокими фейками без согласия представляют значительные этические проблемы.
Распространение видео с жертвами настоящих преступлений, созданных ИИ, на TikTok является последним этическим дилеммой, связанной с постоянно растущей популярностью жанра настоящих преступлений. Хотя документальные фильмы, подкасты и другие медиа о настоящих преступлениях собрали большую аудиторию, критики утверждают, что потребление реальных историй об изнасилованиях и убийствах как простого развлечения может иметь непредвиденные последствия. Рост любителей детективов и фанатов настоящих преступлений потенциально может повторно травмировать близких жертв, усугубляя их боль и страдания.
Решение проблемы порнографии с глубокими фейками через более строгие правила
Помимо этических опасений, могут возникнуть правовые последствия от создания и распространения видео с глубокими фейками. Хотя в настоящее время нет федерального закона, регулирующего несанкционированные изображения и видео с глубокими фейками, некоторые штаты, такие как Вирджиния и Калифорния, запретили порнографию с глубокими фейками. Конгрессмен Джо Морелл недавно предложил законопроект о криминализации и установлении гражданской ответственности за распространение несанкционированных изображений с глубокими фейками. Хотя судебное преследование может оказаться сложным для скорбящих семей из-за смерти субъектов, потенциальная монетизация этих видео может стать основанием для гражданского иска.
Тревожное слияние настоящих преступлений и ИИ поднимает вопросы о будущем этой технологии и ее потенциальных последствиях. По мере быстрого развития ИИ при минимальном регулировании проблема заключается не в том, станут ли такие видео более популярными, а в том, насколько более тревожным может стать их контент. Возможность воссоздавать голоса и даже кровавые детали преступлений с помощью ИИ вызывает тревожные возможности.
Смягчение потенциального вреда от этих тревожных тенденций
В условиях этических и правовых последствий крайне важно, чтобы такие платформы, как TikTok, разработали более строгие руководящие принципы и правила в отношении создания и распространения видео с глубокими фейками ИИ. Баланс между инновациями и ответственным использованием становится необходимым для предотвращения потенциального вреда, причиняемого misuse инструментов ИИ.
Распространение видео с глубокими фейками ИИ, изображающих жертв настоящих преступлений, в основном детей, на TikTok вызвало значительные этические опасения. Графический и манипулятивный характер этих видео поднимает вопросы о повторной виктимизации семей и правовых последствиях, связанных с созданием и распространением контента с глубокими фейками. По мере дальнейшего развития технологии ИИ важно установить четкие руководящие принципы и правила, чтобы обеспечить ответственное использование и смягчить потенциальный вред, причиняемый этими тревожными тенденциями.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Глория Кабуру
Глори — крайне осведомлённый журналист, владеющий инструментами ИИ и методами исследований. Она увлечена темой искусственного интеллекта и является автором нескольких статей по этому вопросу. Она постоянно следит за последними достижениями в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
