Обнаружение признаков манипуляции изображениями с помощью ИИ может помочь фактчекерам

Краткое содержание

• Изображения, сгенерированные ИИ, создают проблемы для специалистов по проверке фактов в отношении верификации визуального контента и различения реальных и фальшивых изображений.
• Сотрудничество между специалистами по проверке фактов и технологическими экспертами может улучшить методы обнаружения и укрепить процессы верификации.
• Алгоритмы ИИ помогают специалистам по проверке фактов выявлять манипулированные визуальные материалы, но этические соображения и политика имеют решающее значение для предотвращения злоупотреблений.

Для тех, кто занимается разоблачением дезинформации, рост числа изображений, сгенерированных ИИ, вызывает все большую обеспокоенность, поскольку большая часть их работы по проверке фактов основана на изображениях или видео. Недавним примером стала фальшивая реклама, использующая ИИ, чтобы создать впечатление, будто Рейнольдс поддерживает Tesla. Настоящий Райан Рейнольдс на самом деле не поддерживал Tesla.

Человек, создавший и разместивший видео, является финансовым советником и инфлюенсером в социальных сетях «Meet Kevin». Он объяснил в дополнительном твите, что реклама была создана с использованием технологии глубоких подделок (deepfake), и что Райан Рейнольдс на самом деле не участвовал в ней. В описании видео, которое он опубликовал на своем канале YouTube, также указано это.

«Это фальшивый пример того, как могла бы выглядеть реклама Tesla», — говорится в описании. «Это сгенерированный ИИ Райан Рейнольдс».

Новый кризис для специалистов по проверке фактов из-за злонамеренных намерений

Быстрые достижения в области искусственного интеллекта (ИИ) вызвали опасения по поводу потенциального злоупотребления изображениями, сгенерированными ИИ, для распространения дезинформации и ложной информации. Появление технологий ИИ, способных генерировать высоко реалистичные и убедительные изображения, привело к растущей дискуссии о проблемах, которые они создают для специалистов по проверке фактов. Хотя некоторые эксперты утверждают, что изображения, сгенерированные ИИ, создадут новый кризис для специалистов по проверке фактов, другие считают, что воздействие может быть не таким серьезным.

Изображения, сгенерированные ИИ, привлекли значительное внимание в последние годы. С появлением алгоритмов глубокого обучения и генеративно-состязательных сетей (GAN) ИИ теперь может создавать изображения, практически неотличимые от настоящих фотографий. Это технологическое развитие вызвало опасения по поводу потенциального использования этих изображений, сгенерированных ИИ, для распространения дезинформации и манипулирования общественным мнением.

Медиапроизводственный бренд Reynolds «Maximum Effort» и сам Рейнольдс ранее критиковали Илона Маска, генерального директора Tesla и Twitter, за его управление Twitter.

И когда Маск ответил на фальшивую рекламу Tesla со словами «Отлично», Maximum Effort и Рейнольдс в свою очередь ответили, чтобы высмеять оригинальное видео и Маска. Maximum Effort опубликовало видео, которое аналогично использует технологию глубоких подделок для создания рекламы с фальшивой поддержкой Маска для джинса Reynolds Aviation Gin. Подпись к видео «Двое могут вступить в игру с катастрофой» использует сценарий, поразительно похожий на тот, что был в фальшивой рекламе Tesla. Итак, это маркетинг в социальных сетях, где все рассматривается как игра, оставляя аудиторию в замешательстве.

Вызовы для специалистов по проверке фактов

Специалисты по проверке фактов играют ключевую роль в подтверждении подлинности информации и противодействии дезинформации. Однако появление изображений, сгенерированных ИИ, представляет новые вызовы для этих профессионалов. Традиционные методы проверки фактов сильно опираются на текстовые доказательства, но с увеличением использования визуального контента в социальных сетях специалисты по проверке фактов должны адаптировать свои подходы, включая визуальную верификацию.

Мнения экспертов разделяются относительно влияния изображений, сгенерированных ИИ, на проверку фактов. Некоторые утверждают, что распространение таких изображений сделает все более трудным для специалистов по проверке фактов различение реального и фальшивого контента. Они считают, что изображения, сгенерированные ИИ, могут использоваться для создания сложных и убедительных нарративов, что затруднит разоблачение ложной информации. В результате специалистам по проверке фактов может быть сложно успевать за быстро развивающейся технологией и ее потенциальным злоупотреблением.

Однако другие эксперты утверждают, что, хотя изображения, сгенерированные ИИ, представляют значительный вызов, существующий набор инструментов специалистов по проверке фактов все еще может эффективно бороться с дезинформацией. Они утверждают, что специалисты по проверке фактов могут использовать передовые методы, такие как обратный поиск изображений и цифровая криминалистика, для обнаружения и разоблачения изображений, сгенерированных ИИ. Кроме того, сотрудничество между организациями по проверке фактов и технологическими экспертами может еще больше укрепить способность выявлять манипулированные визуальные материалы.

Признавая потенциальные угрозы, представляемые изображениями, сгенерированными ИИ, предпринимаются усилия по разработке технологических решений, которые могут помочь специалистам по проверке фактов в их работе. Некоторые исследователи изучают использование алгоритмов ИИ для автоматического обнаружения манипулированных изображений. Обучая модели ИИ на больших наборах данных как реальных, так и сгенерированных ИИ изображений, эти системы могут научиться выявлять характерные признаки манипуляций и помогать специалистам по проверке фактов в процессе верификации.

Этические соображения и политические вмешательства

Появление изображений, сгенерированных ИИ, также поднимает важные этические вопросы. Технология может быть использована во зло для создания сфабрикованных доказательств, выдавания себя за других людей или распространения вредных нарративов. Решение этих проблем требует комплексного подхода, сочетающего технологические решения с политическими вмешательствами. Правительствам, социальным сетям и технологическим компаниям необходимо сотрудничать в установлении стандартов и руководящих принципов для ответственного использования изображений, сгенерированных ИИ, обеспечивая прозрачность и подотчетность.

Появление изображений, сгенерированных ИИ, несомненно, внесло новые сложности в работу специалистов по проверке фактов. Хотя некоторые эксперты считают, что эта технология создаст новый кризис для проверки фактов, другие остаются оптимистичными относительно способности адаптироваться и разрабатывать эффективные контрмеры. По мере дальнейшего развития ИИ сотрудничество между специалистами по проверке фактов, технологическими экспертами и политиками становится все более важным для решения проблем, posed изображениями, сгенерированными ИИ. Используя мощь ИИ и разрабатывая надежные методы верификации, специалисты по проверке фактов могут продолжать играть жизненно важную роль в борьбе с дезинформацией и сохранении целостности информации в цифровую эпоху.