Использование искусственного интеллекта для защиты от распространения дезинформации

Широкое распространение дезинформации в сети стимулирует появление инновационных решений, где искусственный интеллект (ИИ) становится потенциальным прорывом. По мере того как дипфейки, созданные с помощью ИИ, повышают ставки в сфере голосовых и видеозлоумышленников, эксперты исследуют способы использования технологий ИИ и блокчейна для выявления и борьбы с распространением фейковых новостей. Этот новый подход направлен на приоритетное противодействие дезинформации в тех областях, где она может нанести наибольший вред, стремясь дать создателям контента эффективные инструменты для борьбы с этой угрозой.

Давайте проясним разницу между дезинформацией и намеренной дезинформацией. Дезинформация — это ложная информация, которая распространяется независимо от наличия намерения ввести в заблуждение, тогда как намеренная дезинформация означает «ложную информацию, например, о военной мощи или планах страны, распространяемую правительством или разведывательным агентством в качестве враждебного акта тактической политической диверсии». Это также используется для обозначения «намеренно вводящей в заблуждение или предвзятой информации; манипулированных нарративов или фактов; пропаганды».

Хотя у нас могут быть инструменты для решения проблемы дезинформации, мы можем оказаться не в состоянии противостоять намеренной дезинформации или быть обвиненными в государственной измене. Намеренная дезинформация может касаться военного бюджета правительства, подпадает под действие соглашения о неразглашении (NDA) и скрывается в целях безопасности. Получение такой информации может быть расценено как шпионаж или чрезмерное любопытство, что может стоить вам работы в правительстве.

Влияние дезинформации и необходимость контрмер

Вредные последствия дезинформации делают необходимым поиск эффективных стратегий для ее сдерживания. Размытие границ между реальной и сфабрикованной информацией, усиленное быстрой распространением фейковых новостей в социальных сетях, может привести к ошибочным решениям и необдуманным реакциям общественности.

Манджит Реге, директор Центра прикладного искусственного интеллекта Университета Святого Фомы, подчеркивает, что точная информация имеет решающее значение для принятия обоснованных решений. Он отмечает, что скорость, с которой фейковые новости могут стать вирусными, требует немедленных действий для противодействия их влиянию.

Двойная роль ИИ в создании и выявлении фейковых новостей

Недавние исследования подчеркивают потенциал систем машинного обучения в оценке потенциального вреда контента и выявлении наиболее злостных нарушителей. Например, в разгар пандемии COVID-19 использование ИИ позволило выявить случаи распространения фейковых новостей, продвигающих непроверенные методы лечения вместо вакцин.

Ти Тран, профессор систем управления информацией, возглавляющий это исследование, подчеркивает, что угроза фейковых новостей наиболее серьезна, когда они причиняют ощутимый вред читателям или аудитории. Выявление областей, где дезинформация с наибольшей вероятностью нанесет наибольший ущерб, позволяет применить целевой подход к усилиям по смягчению последствий.

Растущее совершенствование ИИ и угрозы дипфейков

По мере того как технологии ИИ становятся более сложными, различать реальный и поддельный контент становится все труднее. Дипфейки, созданные с помощью ИИ, включая поддельные аудио и видео, представляют серьезную угрозу. Самир Хаджарнис, главный продукт-офицер компании по цифровой верификации OneSpan, выделяет опасность дипфейков в мошеннических схемах голосовой и видеофишинга, отмечая, что количество преступников, использующих эти тактики, растет.

Заметный инцидент связан с дипфейк-видео, в котором, казалось бы, инвестиционная возможность, предложенная известным защитником прав потребителей Мартином Льюисом, приписывается Илону Маску. Это видео, позже оказавшееся сгенерированным ИИ дипфейком, подчеркивает силу ИИ в распространении мошенничества.

Множественные подходы к борьбе с дезинформацией

В то время как подход Бингемтонского университета использует машинное обучение для оценки потенциального вреда контента, ИИ также обладает способностью выявлять подлинность. Некоторые материалы, созданные ИИ, могут казаться людям очень убедительными, но легко распознаваться как поддельные моделями ИИ.

Криптография предлагает еще один путь в борьбе с фейковыми новостями. Яй Фокс, эксперт по кибербезопасности и член IEEE, предлагает использовать криптографию для предоставления доказательств подлинности личности. Кодирование видео с использованием открытых ключей позволяет легко проверить подлинность. Этот подход устраняет необходимость в сложных алгоритмах ИИ и может работать на различных платформах и устройствах.

Борьба с фейковыми новостями требует многогранного подхода, включающего как технологические решения, так и более широкие культурные сдвиги. Субраманьям Винсент, директор программы журналистики и медиаэтики в Центре прикладной этики Маркулы при Университете Святой Клары, подчеркивает необходимость сотрудничества между игроками индустрии ИИ и новостными компаниями. Кроме того, воспитание демократических ценностей в политике и на выборах имеет решающее значение для создания среды, в которой инструменты ИИ могут эффективно противодействовать распространению фейковых новостей.

ИИ действительно обладает значительным влиянием, но он должен работать в тандеме с другими факторами для решения сложных проблем, связанных с дезинформацией. По мере того как битва за демократию разгорается на фоне дезинформации, ИИ emerges как мощный инструмент, хотя и требующий комплексного подхода для достижения истинной эффективности.