- ИИ меняет выборы, но требуются более совершенные правила для предотвращения дезинформации и обеспечения справедливости.
- Компании вроде Meta и Google работают над улучшением своих ИИ-инструментов для выборов, однако уровень доверия остаётся низким.
- Люди хотят, чтобы регулирование гарантировало этичное и точное использование ИИ на выборах.
По мере разворачивания предварительных выборов в США зависимость от искусственного интеллекта (ИИ) для получения информации о выборах возросла, освещая потенциальные преимущества и недостатки этой технологии. Недавние исследования проектов AI Democracy Projects и Proof News вызвали тревогу по поводу точности инструментов на базе ИИ, показав, что более чем в половине случаев эти платформы генерируют вводящую в заблуждение или вредную информацию о выборах.
Проблема точности
Эта новая эра ИИ, способного мгновенно создавать текст, видео и аудио, должна была революционизировать доступ к информации. Однако исследование подчеркивает критический недостаток: модели ИИ часто предоставляют избирателям неверную информацию. Например, Llama 2 от Meta неточно сообщил пользователям, что голосование по текстовым сообщениям является вариантом в Калифорнии, что является явной ложью, так как ни один штат США не позволяет голосовать по текстовым сообщениям. Кроме того, все пять протестированных моделей ИИ, включая ChatGPT-4 от OpenAI, Gemini от Google, Claude от Anthropic и Mixtral от Mistral, не смогли правильно определить, что закон Техаса запрещает ношение кампанных логотипов в избирательных участках.
Распространение ложных данных о местах голосования и продвижение несуществующих методов голосования являются одними из ошибок, способствующих дезинформации общественности. Это не только может запутать избирателей, но и подорвать доверие к избирательному процессу.
Реакция технологических компаний и будущие направления
В ответ на эти выводы технологические компании быстро защитили свои продукты, признав при этом необходимость улучшений. Meta уточнила, что её модель Llama 2 предназначена для разработчиков, а не для широкой публики, и утверждает, что её потребительский ИИ направляет пользователей к авторитетным государственным ресурсам по выборам. Anthropic объявила о планах выпустить новую версию своего ИИ-инструмента для предоставления точной информации о голосовании. Тем временем OpenAI обязалась развивать свой подход на основе данных об использовании, хотя конкретные детали остаются в секрете.
Несмотря на эти заверения, этот инцидент подчеркивает более широкую проблему в области ИИ: явление «галлюцинаций» ИИ, когда модели генерируют фактические ошибки. Это врожденное ограничение современных технологий ИИ представляет собой значительную проблему, особенно в таких критических контекстах, как выборы, где точность имеет первостепенное значение.
Пробел в регулировании и общественная обеспокоенность
Общественная обеспокоенность ролью ИИ в распространении дезинформации очевидна. Недавний опрос показывает, что большинство взрослых жителей США боятся, что инструменты ИИ усугубят распространение ложной информации во время выборов. Однако, без конкретного законодательства, регулирующего использование ИИ в политических контекстах, бремя управления ложится на сами технологические компании.
Этот подход саморегулирования, однако, не полностью решает лежащие в основе проблемы. Нецелевое использование ИИ, такое как развертывание ИИ-генерируемых робозвонков, имитирующих публичных деятелей, чтобы отговорить избирателей, подчеркивает срочную необходимость всесторонней политики, обеспечивающей этичное использование ИИ на выборах.
По мере того как ИИ продолжает интегрироваться в различные аспекты повседневной жизни, его применение в политических процессах требует пристального внимания. Баланс между использованием ИИ на благо общества и защитой от его потенциала вводить в заблуждение или причинять вред, является деликатным. Разработка более надежных моделей ИИ в сочетании с прозрачными процессами тестирования и внедрением надежных регуляторных рамок необходима для обеспечения того, чтобы технология улучшала демократические практики, а не подрывала их.
Хотя ИИ обещает трансформировать избирательные процессы за счет эффективности и доступности, путь к реализации этого потенциала полон вызовов. Обеспечение точности информации, генерируемой ИИ, особенно в контексте выборов, имеет первостепенное значение. По мере развития технологий должны развиваться и меры по защите целостности наших демократических институтов.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
- ИИ меняет выборы, но требуются более совершенные правила для предотвращения дезинформации и обеспечения справедливости.
- Компании вроде Meta и Google работают над улучшением своих ИИ-инструментов для выборов, однако уровень доверия остаётся низким.
- Люди хотят, чтобы регулирование гарантировало этичное и точное использование ИИ на выборах.
Бренда Канана
Бренда имеет более 4 лет опыта, специализируясь на криптовалютах, искусственном интеллекте и новых технологиях. Она работала в Zycrypto, Blockchain Reporter, The Coin Republic, а теперь делает Cryptopolitan своим домом. Степень по социологии, полученная в Техническом университете Момбасы, помогает ей оставаться в курсе настроений своих читателей.
