Как утверждает австралийский активист, искусственный интеллект делает угрозы убийством вполне реалистичными

Австралийская активистка Кейтлин Ропер рассказала, что искусственный интеллект теперь используется для создания очень реалистичных угроз и насильственных оскорблений в интернете. По словам Ропер, несмотря на многолетнюю работу в интернете в качестве активистки, она была травмирована недавней волной угроз, спровоцированных искусственным интеллектом, которые она получила.

Цифровые угрозы стали возможны в последние несколько лет, и до недавнего времени модели не могли имитировать реальных людей, если у них не было большого присутствия в интернете. По словам эксперта, теперь моделям достаточно фотографии профиля, чтобы создать все, что пожелает пользователь.

В 2023 году судье во Флориде прислали видео, созданное с помощью инструмента персонализации в видеоигре Grand Theft Auto. На видео был изображен аватар, который выглядел и ходил так, будто судью зарубили насмерть.

Австралийский активист призывает к осторожности в использовании искусственного интеллекта

По словам Ропер, некоторые из полученных ею сообщений были частью кампании клеветы, направленной против нее и ее коллег из Collective Shout, австралийской активистской группы, представленной на X и других платформах социальных сетей. Она отметила , что на одной из присланных ей фотографий она была изображена висящей на петле, а на другом видео она была объята пламенем и кричала. Другие сообщения были более шокирующими, и пользователи шли на многое, чтобы донести свое послание.

Ропер заявила, что на большинстве фотографий и видео, созданных с помощью искусственного интеллекта, она была одета в синее платье с цветочным принтом, которое действительно принадлежит ей. «Именно эти странные мелкие детали делают всё более реальным и каким-то образом создают ощущение другого рода насилия», — сказала она. «Эти вещи могут перейти от фантазии к чему-то большему, чем фантазия». Она отметила, что поток онлайн-травли начался этим летом после её кампании по закрытию жестоких видеоигр, прославляющих сцены для взрослых и насилие.

Она упомянула, что некоторые аккаунты и изображения, направленные против неё, были удалены. Ропер также упомянула, что компания утверждала, что другие публикации, изображающие её насильственную смерть, не нарушают условия использования платформы. Более того, она утверждала, что X в какой-то момент включил один из аккаунтов, преследующих её, в список рекомендуемых для подписки людей. Ропер также упомянула, что некоторые из её преследователей утверждали, что используют Grok для поиска женщин дома и в кафе.

Ропер хочет, чтобы платформы помогли бороться с этой угрозой

Ропер заявила, что, когда ей это надоело, она решила опубликовать несколько примеров. После этого X сообщил ей, что ее аккаунты нарушают правила безопасности, запрещающие показную жестокость, и временно заблокировал ее аккаунт.

Между тем, развернулась глобальная кампания против искусственного интеллекта из-за его использования для совершения мошеннических действий. Преступники теперь используют эту технологию для имитации голосов реальных людей, применяя ее в многочисленных незаконных действиях. К другим видам деятельности относится создание контента для взрослых с помощью искусственного интеллекта без явного разрешения субъекта.

Помимо подобного рода угроз, сообщается, что искусственный интеллект также делает более убедительными другие виды угроз. Например, сваттинг — это практика ложных вызовов экстренных служб с целью спровоцировать масштабную реакцию полиции и служб экстренной помощи. Летом Национальная ассоциация генеральных прокуроров отметила, что эта технология «значительно повысила масштаб, точность и анонимность» подобных атак.

В меньшем масштабе, рост числа видеороликов, созданных с помощью искусственного интеллекта и демонстрирующих предполагаемое вторжение в дом, привел к тому, что жители, ставшиеdentтаких атак, стали звонить в полицию по всей стране. В отчете утверждается, что лица, занимающиеся ложными сообщениями о происшествиях, могут убедить правоохранительные органы в ложности заявлений, клонируя голоса и манипулируя изображениями. Один серийный преступник использовал имитацию выстрелов, чтобы создать впечатление, будто стрелок находится на парковке средней школы в штате Вашингтон. После прибытия полиции и федеральных агентов территория школы была оцеплена на 20 минут.