Германия предупреждает социальные платформы о распространении ложных AI-изображений Холокоста

Германия предупредила социальные медиа-платформы о распространении ложных AI-изображений Холокоста. Правительство и мемориальные учреждения Холокоста попросили социальные платформы прекратить распространение поддельных изображений, которые, по их утверждениям, искажают и преуменьшают значимость истории.

В недавнем письме мемориальные центры и документальные центры, посвященные памяти жертв концлагерей, выразили обеспокоенность, критикуя всплеск так называемого AI-мусора или поддельных изображений, связанных с убийством нацистами более шести миллионов евреев в Германии во время Второй мировой войны. Эти изображения включают эмоциональные иллюстрации вымышленных инцидентов, таких как встречи узников концлагерей с их освободителями или дети за колючей проволокой.

Германия хочет остановить распространение ложных AI-изображений Холокоста

В письме, направленном организациями, они отметили, что контент, созданный искусственным интеллектом, искажает историю, преуменьшая значимость серьезных событий, произошедших давно. Они упомянули, что такие изображения могут способствовать росту недоверия среди пользователей подлинных исторических документов. Вольфрам Ваймер, государственный министр культуры и средств массовой информации Германии, заявил о своей поддержке шагов и усилий, предпринятых мемориальными учреждениями в этом случае, отметив, что это правильный шаг.

Вольфрам также заявил, что поддерживает их решение маркировать изображения, созданные искусственным интеллектом, изображающие древние события, и, в необходимых случаях, удалять их из социальных платформ. Он отметил, что это вопрос уважения к миллионам людей, убитых и преследуемых в период террора нацистской Германии. Согласно письму мемориальных учреждений, создатели изображений, по их мнению, использовали их для привлечения внимания в сети и заработка.

Организации также упомянули, что преступники частично намеревались размыть факты, изменить роли жертв и преступников, а также распространять ревизионистские нарративы. В число учреждений входят мемориальные центры Бельзена, Бухенвальда, Дахау и других концлагерей, где были убиты евреи, а также другие группы, включая ромов и синти. Они попросили социальные платформы действовать проактивно против поддельных AI-изображений, связанных с Холокостом, а не ждать, пока пользователи сообщат о них.

Организации, занимающиеся вопросами Холокоста, требуют маркировать изображения, созданные AI

Кроме того, они попросили платформы четко маркировать такие изображения, так как считают, что это помешает пользователям, создавшим изображения, монетизировать их. Распространение низкокачественного AI-мусора, включающего поддельный текст, изображения или видео, вызвало тревогу среди многих экспертов. Они полагают, что это загрязнит информационное пространство и затруднит для пользователей разделение правды и лжи. Этот инцидент следует за тем, с которым сейчас сталкиваются AI-компании, в частности xAI Илона Маска, владеющая чат-ботом Grok.

В последние недели компания находилась под давлением из-за того, что некоторые пользователи генерировали тысячи сексуализированных дипфейков женщин и несовершеннолетних и распространяли их в нескольких социальных сетях. Этот инцидент привел к тому, что несколько лидеров стран призвали компанию к ответственности, а другие потребовали разработать соответствующие меры защиты для предотвращения подобных случаев. Такие страны, как Индонезия, также объявили о временном запрете на использование чат-бота до разрешения ситуации.

Тем временем платформа подтвердила, что будет гео-блокировать возможность пользователей Grok и X генерировать дипфейки людей в тех местах, где такие действия признаны незаконными. Однако остается неясным, будут ли новые меры защиты применяться к ее автономному приложению или к веб-сайту. Также остается неясным, остановят ли эти меры пользователей от генерации подобных изображений или лишь заставят их искать новые способы доступа к сервису.