OpenAI заблокировал более 250 000 запросов на создание изображений кандидатов в президенты США в ChatGPT

OpenAI подтвердила, что ее популярный инструмент ИИ, ChatGPT, заблокировал ошеломляющие более 250 000 запросов на генерацию изображений основных кандидатов в президенты США 2024 года.

Пользователи пытались — снова и снова — заставить ChatGPT создать изображения избранного президента Дональда Трампа, вице-президента Камалы Харрис, действующего президента Джо Байдена, губернатора Миннесоты Тима Уолца и избранного вице-президента Дж. Д. Вэнса.

Но OpenAI ответила громким «Нет!» на каждый из этих запросов. Это предположительно необходимо для предотвращения превращения ChatGPT в пешку в игре с высокими ставками, связанной с дезинформацией.

На фоне приближающихся выборов в США OpenAI хотела, чтобы ChatGPT избегал вмешательства в избирательный процесс. Политические дипфейки, сгенерированные ИИ фейковые новости и откровенная ложь распространяются в сети как пожар. Компания Clarity, занимающаяся машинным обучением, сообщает, что только контент дипфейков вырос на 900% в этом году.

А разведывательные службы США заявляют, что некоторые из этих материалов связаны с российскими оперативниками, пытающимися контролировать американскую политику.

Большая битва OpenAI с дезинформацией

В отчете за октябрь OpenAI изложила, насколько серьезной стала ситуация. Они отслеживали сомнительные операции по всему миру — всего 20 из них — все они пытались использовать инструменты ИИ для манипулирования людьми в сети. Некоторые из них публиковали статьи на сгенерированных ИИ веб-сайтах.

Другие создавали фальшивые аккаунты в социальных сетях для публикации пропаганды. Но команда OpenAI утверждает, что им удалось закрыть эти сети до того, как они стали вирусными.

И все же этого недостаточно, чтобы успокоить всех. Некоторые законодатели, технологические надзорные органы и скептики поднимают тревогу по поводу опасностей предоставления ChatGPT свободы действий в период выборов. ИИ-чатботы могут быть впечатляющими, безусловно, но они все еще известны тем, что время от времени выдают сомнительную информацию.

«Избиратели категорически не должны обращаться к ИИ-чатботам за информацией о голосовании или выборах — существует слишком много опасений относительно точности и полноты информации», — сказала Александра Рив Гивенс, генеральный директор Центра демократии и технологий, в заявлении на прошлой неделе.

Кроме того, генеральный прокурор Нью-Йорка Летития Джеймс выпустила предупреждение в прошлую пятницу после того, как ее офис провел тесты на нескольких ИИ-чатботах. Ее команда задала им несколько вопросов, связанных с выборами, и не понравился полученный ответ. Дезинформация в изобилии.

«Ньюйоркцы, которые полагаются на чат-боты, а не на официальные правительственные источники, чтобы ответить на свои вопросы о голосовании, рискуют получить дезинформацию и даже могут потерять возможность проголосовать из-за неточной информации», — заявило офис генерального прокурора.

С тех пор OpenAI добавила в ChatGPT функцию, которая побуждает пользователей, ищущих результаты выборов, обращаться к надежным новостным источникам, таким как Associated Press и Reuters. Эта функция, введенная 5 ноября, является мягким намеком на то, чтобы избегать использования ответов, сгенерированных ИИ, для чего-то столь важного, как данные выборов.

ИИ в центре внимания на фоне глобальных выборов

В этом году политические кампании по всему миру могут затронуть более 4 миллиардов человек в более чем 40 странах. При столь высоких ставках риск распространения дезинформации, подпитываемой ИИ, через границы является серьезной проблемой.

Снова отчет Clarity о росте контента дипфейков на 900% вызывает беспокойство. Тот факт, что некоторые из этих видео с дипфейками связаны с кампаниями по влиянию, поддерживаемыми Россией, только усиливает срочность.

Исследование июля от Центра демократии и технологий добавляет еще один слой беспокойства. Они протестировали запросы, связанные с выборами, на ИИ-чатботах от крупных компаний — Mistral, Google, OpenAI, Anthropic и Meta. Из 77 вопросов, связанных с выборами, более трети получили неточные или вводящие в заблуждение ответы. Не очень хорошо.

Представитель Anthropic, которая создает чат-бот Claude, четко дал понять: «Для получения конкретной информации о выборах и голосовании мы направляем пользователей к авторитетным источникам, поскольку Claude не обучается достаточно часто, чтобы предоставлять информацию в реальном времени о конкретных выборах».

Дуэт Трампа и Маска и новая реальность Кремниевой долины

И пока OpenAI борется с дезинформацией, вся Кремниевая долина готовится к пересмотру своих отношений с Вашингтоном. Возвращение избранного президента Дональда Трампа в Белый дом приносит большие обещания — он планирует разрушить многие политические курсы своего предшественника в сфере технологий, включая недавний исполнительный указ администрации Байдена о безопасности ИИ.

Этот указ ввел руководящие принципы безопасности и конфиденциальности для разработчиков ИИ с целью установления базовых ограничений. Он стимулировал финансирование исследований ИИ и стремился вовлечь Национальный институт стандартов и технологий в установление стандартов ИИ. Трамп назвал эту политику «опасной» и препятствием для инноваций, пообещав заменить ее тем, что он называет «разработкой ИИ, основанной на свободе слова».

Илон Маск, который пожертвовал более 130 миллионов долларов на кампании в поддержку Трампа и даже выступал с митингами в его поддержку в Пенсильвании, ожидается как один из главных технологических союзников Трампа. Благодаря влиянию Маска и его контролю над X (ранее Twitter) у него есть прямой канал для распространения политических сообщений среди миллионов людей.

Не говоря уже о том, что у Маска есть собственные интересы: Tesla и SpaceX могут получить выгоду от политики Трампа, особенно если новая администрация будет благоприятствовать меньшему регулированию.

В то время как некоторые технологические магнаты, такие как Джефф Безос из Amazon, открыто вступали в конфликт с Трампом, другие нашли способы сохранить его благосклонность. Марк Цукерберг из Meta, например, reportedly похвалил реакцию Трампа на недавнюю попытку убийства, назвав ее «крутой».

И Facebook на этом не остановился — они также удалили некоторые меры платформы по борьбе с дезинформацией. А Безос, владелец The Washington Post, якобы заблокировал редакционную статью, которая должна была поддержать вице-президента Камалу Харрис в недели перед выборами.

Влияние второго срока Трампа на Кремниевую долину также будет зависеть от того, кто контролирует Конгресс. Поскольку республиканцы обеспечили большинство в Сенате, путь теперь стал более ясным для продвижения Трампом своей технологической повестки и подтверждения назначенных им кандидатов с меньшим сопротивлением.