Компания OpenAI была вынуждена заблокировать более 250 000 запросов изображений кандидатов вdentСША на платформе ChatGPT

Компания OpenAI подтвердила, что её популярный инструмент искусственного интеллекта ChatGPT заблокировал ошеломляющее количество запросов — более 250 000 — на генерацию изображений основных кандидатов вdentСША на выборах 2024 года.

Пользователи снова и снова пытались заставить ChatGPT сфабриковать изображения избранногоdentДональда Трампа, вице-dent Камалы Харрис, действующегоdent Джо Байдена, губернатора Миннесоты Тима Уолза и избранного вице-dentДжей Ди Вэнса.

Но OpenAI решительно ответила «Нет!» на каждый из этих запросов. Сообщается делается для того, чтобы предотвратить превращение ChatGPT в пешку в игре с дезинформацией, где ставки высоки.

В преддверии выборов в США компания OpenAI хотела, чтобы ChatGPT избегал вмешательства в избирательный процесс. Политические дипфейки, сгенерированные ИИ фейковые новости и откровенная ложь распространяются в интернете с невероятной скоростью. Компания Clarity, занимающаяся машинным обучением, сообщает, что только количество дипфейков в этом году выросло на 900%.

По данным американской разведки, некоторые из этих сведений связаны с российскими агентами, пытающимися контролировать американскую политику.

Масштабная борьба OpenAI с дезинформацией

В октябрьском отчете OpenAI подробно описала, насколько плачевной стала ситуация. Они tracсомнительные операции по всему миру — ровно 20 — все они пытаются использовать инструменты искусственного интеллекта, чтобы манипулировать сознанием людей в интернете. Некоторые из них создавали статьи для веб-сайтов с помощью ИИ.

Другие использовали фейковые аккаунты в социальных сетях для распространения пропаганды. Но команда OpenAI утверждает, что им удалось закрыть эти сети до того, как они успели распространиться в интернете.

И все же этого недостаточно, чтобы всех угодить. Некоторые законодатели, технологические надзорные органы и скептики бьют тревогу по поводу опасностей, связанных с тем, что ChatGPT беспрепятственно работает во время предвыборной кампании. Чат-боты с искусственным интеллектом, конечно, впечатляют, но они все равно иногда выдают сомнительную информацию.

«Избирателям категорически не следует полагаться на чат-боты с искусственным интеллектом для получения информации о голосовании или выборах — слишком много опасений вызывает точность и полнота этой информации», — заявила на прошлой неделе Александра Рив Гивенс, генеральный директор Центра демократии и технологий.

Вдобавок ко всему, генеральный прокурор Нью-Йорка Летиция Джеймс в прошлую пятницу выпустила предупреждение после того, как ее ведомство провело тестирование нескольких чат-ботов на основе искусственного интеллекта. Ее команда задала им несколько вопросов, связанных с выборами, и получила неудовлетворительные ответы. Полное распространение дезинформации.

«Жители Нью-Йорка, которые полагаются на чат-боты, а не на официальные правительственные источники, при получении ответов на свои вопросы о голосовании, рискуют получить неверную информацию и даже потерять возможность проголосовать из-за неточной информации», — заявила прокуратура.

Компания OpenAI добавила в ChatGPT функцию, которая призывает пользователей, желающих узнать результаты выборов, обращаться к проверенным источникам новостей, таким как Associated Press и Reuters. Эта функция, представленная 5 ноября, является мягким напоминанием о необходимости избегать использования ответов, сгенерированных ИИ, для таких важных вещей, как данные о выборах.

Искусственный интеллект оказывается в центре внимания на фоне глобальных выборов

В этом году политические кампании по всему миру могут затронуть более 4 миллиардов человек в более чем 40 странах. Учитывая столь серьезные последствия, риск распространения дезинформации, распространяемой с помощью искусственного интеллекта, за пределы национальных границ является очень высоким.

И снова отчет Clarity о 900-процентном увеличении количества дипфейков вызывает тревогу. Тот факт, что некоторые из этих дипфейк-видео связаны с поддерживаемыми Россией кампаниями влияния, только усиливает опасения.

Исследование, проведенное в июле Центром демократии и технологий, добавляет еще один повод для беспокойства. Они протестировали запросы, связанные с выборами, на чат-ботах с искусственным интеллектом от крупных компаний — Mistral, Google, OpenAI, Anthropic и Meta. Из 77 вопросов, касающихся выборов, более трети дали неточные или вводящие в заблуждение ответы. Не очень хорошо.

Представитель компании Anthropic, разработчика чат-бота Claude, пояснил: «Для получения конкретной информации о выборах и голосовании мы направляем пользователей к авторитетным источникам, поскольку Claude не проходит достаточно частое обучение, чтобы предоставлять информацию о конкретных выборах в режиме реального времени»

Дуэт Трампа и Маска и новая реальность Кремниевой долины

И пока OpenAI борется с дезинформацией, Кремниевая долина в целом готовится к пересмотру своих отношений с Вашингтоном. Возвращение избранногоdentДональда Трампа в Белый дом сопряжено с большими обещаниями — он планирует полностью пересмотреть многие из технологических политик своего предшественника, включая недавний указ администрации Байдена о безопасности ИИ.

Этот указ ввел правила безопасности и конфиденциальности для разработчиков ИИ с целью установления базовых гарантий. Он способствовал увеличению финансирования исследований в области ИИ и был направлен на более активное участие Национального института стандартов и технологий в разработке стандартов для ИИ. Трамп назвал эту политику «опасной» и препятствием для инноваций, пообещав заменить ее тем, что он называет «разработкой ИИ, основанной на свободе слова»

Илон Маск, который потратил более 130 миллионов долларов на кампании в поддержку Трампа и даже проводил митинги в его поддержку в Пенсильвании, как ожидается, станет одним из крупнейших союзников Трампа в технологическом секторе. Благодаря влиянию Маска и контролю над X (ранее Twitter), у него есть прямой доступ к распространению политических посланий среди миллионов людей.

Не говоря уже о том, что Маск тоже заинтересован в этом: Tesla и SpaceX могут выиграть от политики Трампа, особенно если новая администрация будет выступать за ослабление контроля.

В то время как некоторые технологические магнаты, такие как Джефф Безос из Amazon, открыто конфликтовали с Трампом, другие нашли способы сохранить его расположение. Например, Марк Цукерберг из Meta, как сообщается, похвалил реакцию Трампа на недавнее покушение, назвав её «крутой»

И на этом Facebook не остановился — они также удалили некоторые меры платформы по борьбе с дезинформацией. А Безос, владелец The Washington Post, по всей видимости, заблокировал редакционную статью, которая поддерживала бы вице-dent Камалу Харрис, за несколько недель до выборов.

Влияние второго срока Трампа на Силиконовую долину также будет зависеть от того, кто будет контролировать Конгресс. Поскольку республиканцы обеспечили себе контроль над Сенатом, у Трампа теперь более ясный путь для продвижения своей технологической программы и утверждения выбранных им кандидатов с меньшими препятствиями.