Потенциальное злоупотребление генеративным ИИ вызывает опасения перед годом выборов

Генеративный ИИ В постоянно меняющемся ландшафте технологий достижения в области генеративного искусственного интеллекта (ИИ) все больше размывают границы между реальностью и манипуляцией. Мэтт Олдридж, главный консультант по решениям в OpenText Cybersecurity, предупреждает, что эти возможности могут привести к сценариям, напоминающим фильм ужасов. Выступая перед Capacity, Олдридж подчеркивает срочную необходимость прозрачных стандартов в создании контента, чтобы пользователи могли отличать подлинные медиа от сгенерированных ИИ манипуляций.

Генеративный ИИ — обоюдоострый меч

Быстрый прогресс в технологиях генеративного ИИ открыл огромные возможности, но также принес значительные проблемы. С помощью инструментов от таких компаний, как OpenAI и Microsoft, стало возможным создавать убедительные поддельные изображения, которые могут повлиять на общественное мнение, особенно в важных событиях, таких как выборы.

Недавний отчет Центра по противодействию цифровой ненависти (CCDH) подчеркивает потенциальную угрозу, которую представляет контент, созданный ИИ, в политической сфере. Используя инструменты генеративного ИИ, некоммерческая организация создала изображения, изображающие президента США Джо Байдена в больничной койке и избирательных работников, уничтожающих избирательные автоматы. Эти сфабрикованные изображения вызывают опасения по поводу распространения дезинформации и эрозии избирательной целостности.

По словам исследователей CCDH, распространение сгенерированных ИИ изображений в качестве «фотоулик» может усилить распространение ложных утверждений, создавая существенную проблему для защиты целостности выборов, включая предстоящие президентские выборы в США в ноябре.

Срочная необходимость регулирования и сотрудничества

Мэтт Олдридж подчеркивает критическую важность проактивных мер по устранению злоупотреблений технологиями ИИ, особенно в контексте политического убеждения. С приближением выборов в Великобритании и США он выделяет необходимость сдерживания создания и распространения дипфейков и вводящей в заблуждение графики.

Олдридж призывает к совместным усилиям, включающим технологических новаторов, правительства и экспертов по кибербезопасности, для разработки надежных регуляторных рамок, повышающих подотчетность. Он подчеркивает, что обучение общества выявлению дезинформации, кампаний ненависти и тактик влияния, подпитываемых ИИ, имеет первостепенное значение для эффективной борьбы с этими угрозами.

В свете растущих рисков, связанных с манипуляциями на основе ИИ, Олдридж утверждает, что правительства по всему миру должны взять на себя лидерскую роль в решении этих проблем. Устанавливая всеобъемлющие правила и способствуя сотрудничеству между заинтересованными сторонами, правительства могут смягчить потенциальный вред, причиняемый злоупотреблениями технологиями генеративного ИИ.

Слияние передовых технологий и политических ландшафтов представляет как возможности, так и риски. Хотя генеративный ИИ обещает инновации и творчество, его злоупотребление может навредить обществу, особенно в критических областях, таких как выборы. Чтобы защититься от этих угроз, необходимы согласованные усилия по внедрению прозрачных стандартов, обучению общественности и принятию регуляторных мер, способствующих ответственному использованию ИИ.