Эксперты предупредили о расистских оскорбительных изображениях, распространяемых Grok AI на платформе X

Эксперты выразили обеспокоенность и предупредили о созданных с помощью искусственного интеллекта Grok изображениях расистского характера, которые заполонили платформу в декабре.

По данным организации Signify, которая сотрудничает с известными спортивными группами и клубами для tracи сообщения о проявлениях ненависти в интернете, в ближайшее время ожидается эскалация количества подобных изображений в интернете и на платформе.

После обновления Grok на X-сервере появилось множество изображений, содержащих сцены насилия

По данным The Guardian, после обновления Grok AI появилось несколько сообщений о расистских изображениях, в том числе фотореалистичные расистские изображения футболистов и тренеров. Среди них одно изображение показывает чернокожего игрока, собирающего хлопок, а другое — игрока, поедающего бананы в окружении обезьян.

На других снимках запечатлены несколько других игроков и тренеров, встречающихся и беседующих с такими противоречивыми историческими личностями, как Усама бен Ладен, Адольф Гитлер и Саддам Хусейн.

Компания Signify с обеспокоенностью отметила внезапный рост числа компьютерных изображений, созданных с помощью Grok AI и заполонивших платформу X. Организация также обеспокоена этой тенденцией и считает, что подобных изображений, вероятно, станет больше в социальных сетях, поскольку внедрение фотореалистичного ИИ упростит и увеличит распространенность таких изображений.

«Сейчас это проблема, но это только начало грядущей проблемы. Она будет только ухудшаться, и мы только в начале пути, я ожидаю, что в течение следующих 12 месяцев ситуация станет невероятно серьезной»

Укажите.

Инструмент генеративного ИИ от компании X был запущен в 2023 году Илоном Маском. Недавно в него была добавлена ​​новая функция преобразования текста в изображение под названием Aurora, которая создает фотореалистичные изображения, созданные с помощью ИИ, на основе простых подсказок пользователей.

Ранее в этом году менее продвинутая версия, известная как Flux, также вызвала споры, поскольку, как сообщила газета The Guardian, она делала то, чего не могли делать многие другие аналогичные программы. К таким действиям относилось изображение защищенных авторским правом персонажей и общественных деятелей в компрометирующих ситуациях, принимающих наркотики или совершающих акты насилия.

X превратился в платформу для ненависти

Глава исследовательского отдела Центра по борьбе с цифровой ненавистью (CCDH) Каллум Худ обвинил платформу X в том, что она является платформой для ненависти. Худ заявил, что X превратилась в платформу, которая поощряет и вознаграждает распространение ненависти посредством распределения доходов, а использование изображений, созданных с помощью ИИ, делает это проще, чем когда-либо.

«X в той степени, в которой это не делает ни одна другая популярная платформа, предлагает cash вознаграждения пользователям за подобные действия, поэтому пользователи X целенаправленно публикуют максимально откровенную ненависть и дезинформацию»

Капюшон.

Эксперты выразили обеспокоенность по поводу относительного отсутствия ограничений на то, что пользователи могут запрашивать у генеративного ИИ, и по поводу того, насколько легко Grok может обходить правила ИИ путем «взлома»

В отчете CCDH показано, что при получении различных оскорбительных подсказок модель ИИ создала 90% из них, 30% из которых были созданы без сопротивления. Еще 50% были созданы после взлома системы.

Премьер -лига признала, что знала об изображениях футболистов. В ней заявили, что создали специальную группу для выявления и сообщения о случаях расистских оскорблений в адрес спортсменов, что, по их словам, может привести к судебному преследованию.

Это произошло после того, как футбольное руководство сообщило о получении более 1500 сообщений о нарушениях в 2024 году и о введении фильтров для игроков в социальных сетях, которые помогают блокировать большое количество оскорблений.

«Дискриминации нет места ни в нашем спорте, ни в обществе в целом. Мы продолжаем призывать компании, владеющие социальными сетями, и соответствующие органы бороться с онлайн-оскорблениями и принимать меры против нарушителей этого неприемлемого поведения», — заявил представитель Футбольной ассоциации Англии.