OpenAI принимает решительные меры против дезинформации на выборах

В смелом и решительном шаге OpenAI, ведущий игрок в области искусственного интеллекта (ИИ), официально объявил о твердой позиции против использования своих генеративных ИИ-инструментов в избирательных кампаниях и тактиках подавления избирателей. Это объявление сделано в критический момент, когда запланировано множество ключевых выборов в 2024 году и растет обеспокоенность по поводу распространения дезинформации.

OpenAI приступил к стратегической инициативе по защите своей технологии, создав специализированную команду, которая занимается вопросами, связанными с выборами. Эта междисциплинарная команда, состоящая из экспертов из различных областей, таких как системы безопасности, разведка угроз, юридический отдел, инженерия и политика, поставила своей главной целью выявление и предотвращение потенциального злоупотребления ИИ на выборах.

Проактивные меры по борьбе с дезинформацией

Угроза дезинформации в политике не является новой проблемой, но появление технологий ИИ создало беспрецедентные вызовы. Осознавая серьезность этой проблемы, OpenAI предпринимает проактивные шаги по защите своей технологии от эксплуатации для манипулирования результатами выборов. Для этого компания принимает многогранный подход, включая «красное командование» (red teaming), взаимодействие с пользователями и внедрение защитных механизмов.

Один из самых известных ИИ-инструментов OpenAI, DALL-E, был обновлен и теперь включает в себя меры предосторожности против генерации изображений реальных людей, включая политических кандидатов. Эта проактивная мера гарантирует, что контент, созданный ИИ, не будет непреднамеренно способствовать распространению вводящих в заблуждение или манипулированных изображений в политической сфере.

OpenAI привержен постоянной пересмотре своих пользовательских политик в соответствии с меняющимся ландшафтом технологий ИИ и их потенциалом для злоупотреблений. Обновленные политики безопасности компании теперь явно запрещают разработку ИИ-приложений для политических кампаний и лоббирования. 

Кроме того, были внедрены строгие меры по предотвращению создания чат-ботов, имитирующих реальных людей или организации, что снижает риск использования ИИ в обманных целях.

Внедрение классификатора происхождения для обеспечения прозрачности

Значительным аспектом стратегии OpenAI по борьбе с дезинформацией является внедрение классификатора происхождения для инструмента DALL-E. В ходе бета-тестирования эта функция предназначена для обнаружения изображений, созданных DALL-E, что повышает прозрачность контента, сгенерированного ИИ. 

OpenAI планирует сделать этот инструмент доступным для журналистов, платформ и исследователей, способствуя большей подотчетности и позволяя обнаруживать потенциально вводящий в заблуждение визуальный контент.

OpenAI также повышает прозрачность и точность распространения информации, интегрируя новостные репортажи в реальном времени в ChatGPT. Эта интеграция гарантирует, что пользователи получают актуальную и надежную информацию, тем самым проливая свет на источники информации, предоставляемые ИИ, и снижая риск распространения дезинформации.

В рамках сотрудничества с Национальной ассоциацией секретарей штатов США OpenAI активно работает над тем, чтобы предотвратить использование своей технологии для отпугивания от участия в выборах. Это партнерство включает направление пользователей чат-ботов на базе GPT к надежным веб-сайтам с информацией о голосовании, таким как CanIVote.org, тем самым продвигая гражданскую активность и доступ к точной информации о выборах.

Лидеры отрасли объединяют усилия против дезинформации с помощью ИИ

Решительное заявление OpenAI создало заметный прецедент в индустрии ИИ. Отраслевые конкуренты, включая Google LLC и Meta Platforms Inc., также приняли решительные меры по борьбе с дезинформацией, распространяемой через их технологии. Это коллективное усилие лидеров отрасли отражает растущее осознание их ответственности и потенциального влияния ИИ на демократические процессы.

Хотя объявление OpenAI заслуживает одобрения, оно вызвало дебаты о своевременности этих мер. Чарльз Кинг из Pund-IT Inc. задал критические вопросы о том, являются ли эти действия своевременными или реактивными. 

Он утверждает, что обеспокоенность по поводу дезинформации, созданной ИИ, сохраняется уже много лет, и недавнее объявление OpenAI может восприниматься либо как запоздалый ответ, либо как просто символический жест. Эта перспектива побуждает к более глубокому размышлению о роли и ответственности разработчиков ИИ в политической сфере.