- Исследование показывает, что ИИ-чаты распространяют дезинформацию о выборах 2024 года, призывая к регулированию.
- Технологические компании обязуются исправлять дезинформацию в сфере ИИ на фоне общественной обеспокоенности и отраслевого контроля.
- Призывы к регулированию усиливаются: неточности ИИ угрожают целостности выборов и общественному доверию.
Недавнее расследование выявило тревожную тенденцию распространения ИИ-чатботами ложной и вводящей в заблуждение информации о выборах 2024 года. Это открытие стало результатом совместного исследования, проведенного проектами AI Democracy Projects и Proof News, некоммерческой медиаорганизацией. Результаты подчеркивают насущную необходимость регулирования, поскольку ИИ продолжает играть значительную роль в политическом дискурсе.
Дезинформация в критический момент
В исследовании отмечается, что эти неточности, сгенерированные ИИ, появляются в критический период президентских праймериз в Соединенных Штатах. Поскольку все больше людей обращаются к ИИ за информацией о выборах, распространение неверных данных вызывает особую обеспокоенность. В исследовании тестировались различные модели ИИ, включая ChatGPT-4 от OpenAI, Llama 2 от Meta, Claude от Anthropic, Gemini от Google и Mixtral от французской компании Mistral. Эти платформы, как оказалось, предоставляли избирателям неверные данные о местах голосования, незаконные методы голосования и ложные сроки регистрации, среди прочей дезинформации.
Один из тревожных примеров, приведенных в исследовании, — утверждение Llama 2 о том, что избиратели в Калифорнии могут голосовать по текстовым сообщениям, что является незаконным в Соединенных Штатах. Кроме того, ни одна из протестированных моделей ИИ не смогла правильно определить запрет на ношение атрибутики кампаний, таких как шляпы MAGA, на избирательных участках в Техасе. Такое широкое распространение ложной информации может ввести избирателей в заблуждение и подорвать избирательный процесс.
Реакция отрасли и общественная обеспокоенность
Распространение дезинформации ИИ вызвало реакцию как со стороны технологической индустрии, так и со стороны общественности. Некоторые технологические компании признали ошибки и обязались их исправить. Например, Anthropic планирует выпустить обновленную версию своего ИИ-инструмента с точной информацией о выборах. OpenAI также выразила намерение постоянно совершенствовать свой подход на основе эволюционирующих способов использования своих инструментов. Однако ответ Meta, назвавшей выводы «бессмысленными», вызвал споры, поставив под вопрос приверженность технологической индустрии борьбе с дезинформацией.
Растет и общественная обеспокоенность. Опрос, проведенный Центром AP-NORC по исследованиям в сфере общественных дел и Школой государственной политики Хэрриса Чикагского университета, выявил широкую обеспокоенность тем, что инструменты ИИ будут способствовать распространению ложной и вводящей в заблуждение информации в течение года выборов. Эта обеспокоенность усиливается недавними инцидентами, такими как генерация исторически неточных и расово нечувствительных изображений ИИ Gemini от Google.
Призыв к регулированию и ответственности
Результаты исследования подчеркивают насущную необходимость законодательных действий по регулированию использования ИИ в политическом контексте. В настоящее время отсутствие конкретных законов, регулирующих использование ИИ в политике, оставляет технологические компании заниматься саморегулированием, что привело к значительным пробелам в точности информации. Примерно за две недели до публикации исследования технологические компании добровольно согласились принять меры предосторожности, чтобы предотвратить генерацию их инструментами реалистичного контента, вводящего избирателей в заблуждение относительно законных процедур голосования. Однако недавние ошибки и ложные утверждения ставят под сомнение эффективность этих добровольных мер.
По мере того как ИИ продолжает интегрироваться во все аспекты повседневной жизни, включая политическую сферу, все более очевидной становится необходимость всесторонних и исполнимых нормативных актов. Эти правила должны быть направлены на обеспечение точности контента, сгенерированного ИИ, особенно когда речь идет о критических демократических процессах, таких как выборы. Только в сочетании с подотчетностью отрасли и нормативным надзором можно восстановить и поддержать доверие общественности к ИИ как источнику информации.
Недавнее исследование о распространении ИИ-чатботами ложной информации о выборах служит предупреждением о потенциальных опасностях нерегулируемого ИИ в политической сфере. По мере того как технологические компании работают над решением этих проблем, роль государственного надзора нельзя недооценивать. Обеспечение целостности информации, связанной с выборами, имеет первостепенное значение для защиты демократических ценностей и процессов.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com не несёт ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимые исследования и/или консультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений
Джон Палмер
Джон Мурангири пришел в Cryptopolitan, обладая навыками анализа рынка. Джон (также известный как JP) окончил Найробийский университет по специальности «Массовая коммуникация и медиаисследования». Ранее он публиковал аналитические материалы о криптовалютном рынке на InsideBitcoins.com и Metacoingraph.
