Компания OpenAI занимает решительную позицию против дезинформации на выборах

сделала смелый и решительный шаг, Компания OpenAIофициально заявив о твердой позиции против использования своих инструментов генеративного ИИ в избирательных кампаниях и тактике подавления избирателей. Это заявление прозвучало в решающий момент, когда на 2024 год запланировано множество важных выборов, и растет обеспокоенность по поводу распространения дезинформации. 

Компания OpenAI приступила к стратегической инициативе по защите своих технологий, создав специализированную команду, занимающуюся вопросами, связанными с выборами. Эта междисциплинарная команда, состоящая из экспертов из различных областей, таких как системы безопасности, анализ угроз, юриспруденция, инженерия и политика, поставила перед собой главную задачу —dentи предотвращение потенциальных злоупотреблений ИИ на выборах.

Превентивные меры по борьбе с дезинформацией

Проблема дезинформации в политике не нова, но появление технологий искусственного интеллекта принеслоdentвызовы. Признавая серьезность этой проблемы, OpenAI предпринимает активные шаги для защиты своей технологии от использования в целях манипулирования результатами выборов. С этой целью компания применяет многогранный подход, включающий в себя тестирование на проникновение, взаимодействие с пользователями и меры безопасности.

Один из наиболее известных инструментов искусственного интеллекта от OpenAI, DALL-E, был обновлен и теперь включает в себя меры защиты от генерации изображений, изображающих реальных людей, в том числе политических кандидатов. Эта превентивная мера гарантирует, что контент, созданный с помощью ИИ, не будет непреднамеренно способствовать распространению вводящих в заблуждение или сфальсифицированных изображений в политической сфере.

Компания OpenAI стремится постоянно пересматривать свою политику в отношении пользователей, чтобы соответствовать меняющемуся ландшафту технологий искусственного интеллекта и потенциалу их неправомерного использования. Обновленная политика безопасности компании теперь прямо ограничивает разработку приложений ИИ для политических кампаний и лоббирования. 

Кроме того, были приняты строгие меры для предотвращения создания чат-ботов, имитирующих реальных людей или организации, что снижает риск использования ИИ в обманных целях.

Внедрение прозрачности с помощью классификатора происхождения

Важным аспектом стратегии OpenAI по борьбе с дезинформацией является внедрение классификатора происхождения для инструмента DALL-E. На стадии бета-тестирования эта функция в настоящее время предназначена для обнаружения изображений, созданных с помощью DALL-E, что повышает прозрачность контента, сгенерированного ИИ. 

Компания OpenAI планирует сделать этот инструмент доступным для журналистов, платформ и исследователей, способствуя повышению подотчетности и позволяя выявлять потенциально вводящий в заблуждение визуальный контент.

OpenAI также повышает прозрачность и точность распространения информации, интегрируя новостные сообщения в режиме реального времени в ChatGPT. Эта интеграция гарантирует, что пользователи получают актуальную и достоверную информацию, тем самым проливая свет на источники информации, предоставляемые ИИ, и снижая риск распространения дезинформации.

В рамках сотрудничества с Национальной ассоциацией секретарей штатов США компания OpenAI активно работает над тем, чтобы ее технология не препятствовала участию в выборах. Это партнерство включает в себя направление пользователей чат-ботов на базе GPT на надежные веб-сайты с информацией о голосовании, такие как CanIVote.org, тем самым способствуя гражданской активности и доступности точной информации о выборах.

Лидеры отрасли объединяют усилия в борьбе с дезинформацией об искусственном интеллекте

Решительное заявление OpenAI создало заметныйdent в индустрии ИИ. Конкуренты по отрасли, включая Google LLC и Meta Platforms Inc., также предприняли решительные меры по борьбе с дезинформацией, распространяемой с помощью их технологий. Эти коллективные усилия лидеров отрасли отражают растущее осознание ими своей ответственности и потенциального влияния ИИ на демократические процессы.

Хотя заявление OpenAI заслуживает похвалы, оно вызвало дискуссию о своевременности этих мер. Чарльз Кинг из Pund-IT Inc. поднял важные вопросы о том, являются ли эти действия своевременными или реактивными. 

Он утверждает, что опасения по поводу дезинформации, генерируемой ИИ, существуют уже много лет, и недавнее заявление OpenAI может быть воспринято либо как запоздалый ответ, либо как простой символический жест. Эта точка зрения побуждает к более глубокому осмыслению роли и ответственности разработчиков ИИ в политической сфере.