ПОСЛЕДНИЕ НОВОСТИ
ПОДОБРАНО ДЛЯ ВАС

Исследователи предупреждают: инструменты ИИ создают угрозу с помощью вводящих в заблуждение изображений на выборах

АвторАмир ШейхАмир Шейх 2 мин. чтения
инструментов ИИ
  • Инструменты создания изображений на базе искусственного интеллекта, несмотря на политику компаний по борьбе с дезинформацией, используются для генерации обманчивых изображений, связанных с выборами, утверждают исследователи.
  • Центр противодействия цифровой ненависти (CCDH) протестировал несколько ИИ-инструментов, включая ChatGPT Plus и Image Creator от Microsoft, и выявил их высокую восприимчивость к созданию вводящего в заблуждение контента, особенно касающегося фальсификации результатов выборов.
  • Европейский союз продвигает планы по использованию искусственного интеллекта для создания «киберщита» с целью защиты критической инфраструктуры от киберугроз, подчеркивая важность механизмов обнаружения и реагирования в реальном времени.

Инструменты ИИ для создания изображений стали потенциальным каналом распространения вводящей в заблуждение информации, связанной с выборами, несмотря на усилия таких компаний, как OpenAI и Microsoft, по борьбе с дезинформацией. Исследователи из Центра противодействия цифровой ненависти (CCDH) в недавнем отчете раскрыли тревожный потенциал этих инструментов для создания обманных изображений, что вызвало опасения по поводу их влияния на целостность избирательных процессов.

Инструменты ИИ и дезинформация на выборах

В недавнем отчете, опубликованном Центром противодействия цифровой ненависти (CCDH), были выражены опасения по поводу злоупотребления инструментами создания изображений на базе ИИ для генерации вводящей в заблуждение информации, связанной с выборами. Несмотря на политику, направленную на предотвращение распространения дезинформации, исследователи обнаружили, что такие инструменты, как ChatGPT Plus от OpenAI и Image Creator от Microsoft, могут быть манипулированы для создания ложных изображений. CCDH провел тестирование этих инструментов, а также Midjourney и DreamStudio от Stability AI, выявив их уязвимость к запросам на создание изображений, изображающих фальсификацию выборов. Примечательно, что Midjourney продемонстрировал самый высокий уровень генерации вводящих в заблуждение изображений, что обеспокоило исследователей потенциальным влиянием таких изображений на общественное мнение.

В отчете подчеркиваются сложности эффективной модерации контента, созданного ИИ, особенно в отношении политически чувствительных тем. Хотя такие компании, как OpenAI и Microsoft, имеют политику борьбы с обманным контентом, стремительное развитие технологий ИИ создает значительные трудности в опережении злоумышленников. По мере того как инструменты ИИ становятся более доступными и сложными, необходимость в надежных механизмах модерации становится все более острой для сохранения целостности демократических процессов.

Инициативы Европейского Союза в области кибербезопасности

Тем временем, в рамках усилий по укреплению мер кибербезопасности, Европейский Союз (ЕС) объявил о планах использовать искусственный интеллект и другие передовые технологии для создания «киберщита», защищающего критическую инфраструктуру от киберугроз. Эта инициатива, закрепленная в Законе о киберсолидарности, направлена на использование передовых инструментов и инфраструктуры, включая ИИ и расширенный анализ данных, для быстрого обнаружения и реагирования на киберугрозы. Закон предлагает создание Европейской системы оповещения о кибербезопасности, предназначенной для предоставления властям информации в режиме реального времени, и Механизма чрезвычайной ситуации в области кибербезопасности для контроля готовности в критических секторах. Кроме того, переговорщики ЕС согласовали обновление действующего Закона о кибербезопасности для внедрения европейских схем сертификации для доверенных поставщиков кибербезопасности.

Кроме того, реализация Закона о киберсолидарности подчеркивает приверженность ЕС укреплению сотрудничества и обмена информацией между государствами-членами для эффективной борьбы с киберугрозами. Создавая скоординированную рамочную основу для инициатив в области кибербезопасности, ЕС стремится учесть эволюционный характер киберугроз и минимизировать их потенциальное воздействие на критические сектора. Интеграция искусственного интеллекта и расширенной аналитики в инфраструктуру кибербезопасности отражает проактивный подход к опережению новых угроз и обеспечению устойчивости цифровой экономики.

По мере развития технологий искусственного интеллекта возникают вопросы о его потенциальных последствиях для различных аспектов общества, включая целостность выборов и кибербезопасность. Поскольку инструменты ИИ становятся все более уязвимыми для злоупотреблений, задача заключается в поиске эффективных мер по снижению рисков, создаваемых обманным контентом. Как политики и технологические компании могут сотрудничать для решения этих новых угроз и эффективной защиты демократических процессов и критической инфраструктуры?

Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.

Поделиться статьёй

Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.

Амир Шейх

Амир Шейх

Амир — технологический журналист с почти шестилетним опытом работы в индустриях криптовалют и технологий. Он окончил университет MAJ, получив степень MBA по финансам и маркетингу. Сейчас он работает в Cryptopolitan, где освещает последние события на рынке криптовалют и прогнозы цен.

ЕЩЁ … НОВОСТИ