Искусственный интеллект делает угрозы убийством очень реалистичными, раскрывает австралийская активистка

Австралийская активистка Кейтлин Роупер раскрыла, что искусственный интеллект теперь используется для создания очень реалистичных угроз и жестоких оскорблений в сети. По словам Роупер, несмотря на годы работы в интернете в качестве активистки, она оказалась травмирована недавней волной угроз, подпитываемых ИИ, которые она получила.

Цифровые сгенерированные угрозы стали возможны в последние несколько лет, и до недавнего времени искусственный интеллект модели не могли воспроизводить реальных людей, если у них не было огромного присутствия в сети. По словам эксперта, теперь моделям требуется всего лишь фото профиля, чтобы создать все, что хотят пользователи.

В 2023 году судье во Флориде было отправлено видео, созданное с помощью инструмента настройки в видеоигре Grand Theft Auto. На видео аватар, похожий на судью по внешности и походке, был показан взломанным и убитым.

Австралийская активистка призывает к осторожности в использовании искусственного интеллекта

По словам Роупер, некоторые из постов, которые она получила, были частью кампании ненависти, направленной против нее и ее коллег в Collective Shout, австралийской активистской группе в X и других социальных сетях. Она отметила, что на одной из присланных ей фотографий было изображено ее повешение на петле, а в другом видео она была показана горящей и кричащей. Другие были более графичными, при этом пользователи шли на крайние меры, чтобы донести свое сообщение.

Роупер утверждала, что на большинстве сгенерированных с помощью ИИ фотографий и видео она была одета в сине-цветочное платье, которое у нее действительно есть. «Это странные мелкие детали, которые делают это более реальным и, каким-то образом, другим видом нарушения», — сказала она. «Эти вещи могут перейти от фантазии к чему-то большему, чем фантазия». Она отметила, что поток онлайн-оскорблений начался этим летом после ее кампании по закрытию жестоких видеоигр, прославляющих взрослые сцены и насилие.

Она упомянула, что некоторые из аккаунтов и изображений, направленных против нее, были удалены. Роупер также упомянула, что компания заявила, что другие посты, изображающие ее насильственную смерть, не нарушают условия обслуживания платформы. Более того, она утверждала, что X в какой-то момент включил один из аккаунтов, преследующих ее, в список рекомендуемых людей для подписки. Роупер упомянула, что некоторые из ее преследователей также заявили, что используют Grok для изучения того, как найти женщин дома и в кафе.

Роупер хочет, чтобы платформы боролись с этой угрозой

Роупер утверждала, что, когда она устала от этого, она решила опубликовать некоторые примеры. После этого X сообщил ей, что ее аккаунты нарушают политику безопасности в отношении излишней жестокости, и временно заблокировал ее аккаунт.

Тем временем развернулась глобальная кампания против искусственного интеллекта из-за его использования для совершения мошенничества. Преступники теперь используют технологию для имитации голосов реальных людей, применяя ее в своих многочисленных незаконных действиях. К другим видам деятельности относится создание контента для взрослых с использованием ИИ без явного разрешения субъекта.

Помимо этих видов контента, сообщения утверждают, что искусственный интеллект также делает другие угрозы более убедительными. Например, своттинг — это практика размещения ложных экстренных вызовов с целью спровоцировать крупную реакцию со стороны полиции и экстренных служб. Летом Национальная ассоциация генеральных прокуроров отметила, что эта технология «значительно усилила масштаб, точность и анонимность» таких атак.

В меньшем масштабе увеличение количества видео, созданных с помощью ИИ, показывающих якобы вторжение в дом, заставило целевых жителей звонить в полицейские управления по всей стране. В отчете утверждается, что злоумышленники, практикующие своттинг, могут убедить правоохранительные органы в ложных сообщениях, клонируя голоса и манипулируя изображениями. Один серийный нарушитель использовал имитацию стрельбы, чтобы предположить, что стрелок находится на парковке старшей школы в штате Вашингтон. Кампус был заблокирован на 20 минут после прибытия полиции и федеральных агентов.