Потенциальное злоупотребление генеративным искусственным интеллектом вызывает опасения в преддверии выборов

Генеративный ИИ. В постоянно меняющемся мире технологий достижения в области генеративного искусственного интеллекта (ИИ) все больше размывают границы между реальностью и манипуляцией. Мэтт Олдридж, ведущий консультант по решениям в OpenText Cybersecurity, предупреждает, что эти возможности могут привести к сценариям, напоминающим фильмы ужасов. В интервью Capacity Олдридж подчеркивает острую необходимость в прозрачных стандартах создания контента, чтобы пользователи могли различать подлинные медиафайлы и манипуляции, созданные ИИ.

Генеративный искусственный интеллект — это палка о двух концах.

Быстрый прогресс в технологиях генеративного искусственного интеллекта открыл огромные возможности, но также породил значительные проблемы. Благодаря инструментам таких компаний, как OpenAI и Microsoft, стало возможным создавать убедительные поддельные изображения, способные повлиять на общественное мнение, особенно в таких важных событиях, как выборы.

Недавний доклад Центра по борьбе с цифровой ненавистью (CCDH) подчеркивает потенциальную угрозу, исходящую от контента, созданного с помощью ИИ, на политической арене. Используя инструменты генеративного ИИ, эта некоммерческая организация создала изображения, на которыхdent США Джо Байден лежит в больничной койке, а сотрудники избирательных участков уничтожают избирательные машины. Эти сфабрикованные изображения вызывают опасения по поводу распространения дезинформации и подрыва честности выборов.

По мнению исследователей из CCDH, распространение изображений, созданных с помощью ИИ, в качестве «фотодоказательств» может усилить распространение ложных утверждений, что создаст серьезную проблему для обеспечения целостности выборов, включая предстоящиеdentвыборы в США в ноябре.

Острая необходимость в регулировании и сотрудничестве.

Мэтт Олдридж подчеркивает критическую важность превентивных мер по борьбе со злоупотреблением технологиями искусственного интеллекта, особенно в контексте политического влияния. В преддверии выборов в Великобритании и США он указывает на необходимость пресечения создания и распространения дипфейков и вводящих в заблуждение изображений.

Олдридж призывает к совместным усилиям технологических новаторов, правительств и экспертов по кибербезопасности для разработки надежных нормативных рамок, повышающих подотчетность. Он подчеркивает, что просвещение общества о том, какdentдезинформацию, кампании ненависти и тактику влияния, подпитываемую искусственным интеллектом, имеет первостепенное значение для эффективной борьбы с этими угрозами.

В свете растущих рисков, связанных с манипуляциями с использованием ИИ, Олдридж утверждает, что правительства во всем мире должны взять на себя ведущую роль в решении этих проблем. Разрабатывая всеобъемлющие правила и способствуя сотрудничеству между заинтересованными сторонами, правительства могут смягчить потенциальный вред, причиняемый злоупотреблением технологиями генеративного ИИ.

Сочетание передовых технологий и политической обстановки создает как возможности, так и риски. Хотя генеративный ИИ обещает инновации и творчество, его злоупотребление может нанести вред обществу, особенно в таких важных областях, как выборы. Для защиты от этих угроз необходимы согласованные усилия по внедрению прозрачных стандартов, просвещению общественности и принятию нормативных мер, способствующих ответственному использованию ИИ.