- OpenAI, создатель ChatGPT, представляет комплексные меры по противодействию распространению избирательной дезинформации в глобальном масштабе.
- Меры защиты включают запрет на создание обманных чат-ботов, цифровое водяное знамение для изображений, созданных ИИ, и партнёрство с организациями, специализирующимися на вопросах выборов.
- Несмотря на одобрение инициативы, эксперты подчёркивают критическую роль её реализации для эффективности этих мер.
В преддверии национальных выборов более чем в 50 странах OpenAI, инновационная сила, стоящая за ChatGPT, заняла проактивную позицию против потенциального оружия своего ИИ-инструментов для распространения дезинформации на выборах. Это происходит по мере того, как страны готовятся к критически важным демократическим процессам, осознавая растущую угрозу, создаваемую злоупотреблением контентом, сгенерированным ИИ. OpenAI, базирующаяся в Сан-Франциско, изложила многогранную стратегию для сдерживания эксплуатации своих мощных генеративных ИИ-инструментов, признавая ответственность за содействие точной информации о голосовании, обеспечение строгих политик и повышение прозрачности.
Многогранная стратегия OpenAI по противодействию дезинформации на выборах
План OpenAI, объявленный в недавнем блоге, включает в себя смесь существующих политик и новаторских инициатив для защиты целостности выборов. Компания заявляет о своей приверженности безопасности платформы, обещая запретить создание чат-ботов, имитирующих реальных кандидатов или правительства. Также злоупотребление его технологией для искажения процессов голосования или отпугивания участия не будет терпимо. OpenAI признает необходимость дальнейших исследований убедительной силы своих инструментов, что приводит к временному ограничению на разработку приложений для политических кампаний или лоббирования.
Начиная с начала этого года, OpenAI планирует внедрить новаторскую меру по цифровой водяной печати изображений, сгенерированных ИИ, созданных его генератором изображений DALL-E. Эта водяная печать будет служить постоянным идентификатором, облегчая идентификацию происхождения контента и помогая отличать подлинные визуальные материалы от тех, которые были манипулированы с помощью инструмента ИИ OpenAI.
Сотрудничая с Национальной ассоциацией секретарей штатов, OpenAI стремится направлять пользователей ChatGPT, ищущих информацию о логистике голосования, на точные и неполитизированные ресурсы, доступные на веб-сайте ассоциации. Это стратегическое партнерство стремится направить запросы к надежной информации и смягчить потенциальное распространение дезинформации.
Проблема реализации – демократическая дилемма
Мекела Пандитаратне, советник программы демократии в Центре справедливости Бреннана, приветствует усилия OpenAI как позитивный шаг в борьбе с дезинформацией на выборах. Однако она высказывает обоснованные опасения относительно эффективности мер защиты на практике. Вопросы о полноте фильтров при маркировке запросов, связанных с выборами, и возможности пропуска важных материалов остаются актуальными. Успех планов OpenAI, следовательно, зависит от тщательного выполнения этих мер защиты.
OpenAI ChatGPT и DALL-E находятся на переднем крае технологий генеративного ИИ, но широкое распространение аналогичных инструментов без надежных мер защиты в отрасли остается проблемой. Даррелл Уэст, старший научный сотрудник Института Брукингса, подчеркивает необходимость того, чтобы компании, занимающиеся генеративным ИИ, приняли сопоставимые руководящие принципы для обеспечения практического соблюдения правил на уровне всей отрасли. Отсутствие добровольного принятия таких мер может потребовать законодательного вмешательства для регулирования дезинформации, генерируемой ИИ в политике, что усугубляется медленным прогрессом федерального законодательства в США.
Сохранять бдительность – генеральный директор OpenAI об тревоге и мониторинге
Генеральный директор OpenAI Сэм Альтман признает важность их проактивных мер, но подчеркивает необходимость постоянной бдительности. Выступая на мероприятии Bloomberg в рамках Всемирного экономического форума в Давосе, Швейцария, Альтман выражает приверженность компании «сверхтщательному мониторингу» и «сверхтесной обратной связи» на протяжении всего года. Несмотря на внедренные меры защиты, Альтман признает наличие тревоги, что отражает серьезность стоящей перед ними задачи.
По мере того как OpenAI занимает смелую позицию против дезинформации на выборах, эффективность его мер зависит от сложных деталей реализации. Сотрудничество с организациями, ориентированными на выборы, и цифровая водяная печать сгенерированных ИИ изображений являются существенными шагами в укреплении целостности выборов по всему миру. Но более широкая проблема остается — объединится ли отрасль вокруг аналогичных руководств, или законодательные меры станут необходимыми? По мере того как мир наблюдает за разворачивающимся нарративом ИИ и демократии, вопрос остается: могут ли инициативы OpenAI проложить путь к коллективной защите от дезинформации на выборах в 2024 году?
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Амир Шейх
Амир — технологический журналист с почти шестилетним опытом работы в индустриях криптовалют и технологий. Он окончил университет MAJ, получив степень MBA по финансам и маркетингу. Сейчас он работает в Cryptopolitan, где освещает последние события на рынке криптовалют и прогнозы цен.
