- Слухи предполагают, что президент России Путин может использовать улучшенные с помощью ИИ двойники для публичных выступлений, однако доказательства отсутствуют, и Кремль это отрицает.
- Технологии водяных знаков сталкиваются с трудностями при аутентификации цифрового контента в условиях развивающихся ИИ-дипфейков, что вызывает опасения относительно их эффективности.
- По мере развития технологии дипфейков создание и обнаружение подделок становятся частью непрерывной гонки вооружений с серьезными последствиями для личной и общественной безопасности.
В развитии, добавляющем новое измерение политическим интригам, обвинения возродились, утверждая, что президент России Владимир Путин может использовать двойников в публичных выступлениях, дополнительно усиленных технологиями генеративного ИИ. Это утверждение, хотя и не имеющее конкретных доказательств и опровергнутое российскими официальными лицами, подчеркивает сложные возможности современного ИИ в создании убедительных deepfake, представляя сложную задачу для проверки подлинности.
Рост числа подделок с помощью ИИ
Японские исследователи бросили новые сомнения в подлинности публичных выступлений Путина, представив анализ, который предполагает существование нескольких двойников, выдающих себя за российского лидера. Хотя Кремль отвергает эти предложения, более широкий разговор поворачивается к технологическим основам, позволяющим такие обманы с помощью ИИ deepfake.
Технология глубоких фейков достигла такого уровня развития, что стала не просто инструментом безобидного развлечения, но и мощным средством потенциального политического манипулирования. OpenAI занимает лидирующие позиции в решении этой проблемы, сообщая о 99% успешности в выявлении подобных подделок. Несмотря на эти достижения, эксперты предупреждают, что процесс идентификации остается сложным и, по мере развития технологий ИИ, станет еще более запутанным.
Водяные знаки против глубоких фейков: недостаточность текущих мер защиты
Традиционная мера цифровой безопасности — водяные знаки, как это реализовано в компаниях Digimarc и платформе Google Vertix AI, — оказывается не столь надежной защитой от наплыва контента, созданного с помощью ИИ. Невидимые невооруженным глазом и предназначенные для сохранения качества изображения, водяные знаки призваны подтверждать подлинность. Однако эффективность водяных знаков находится под вопросом, поскольку генеративные ИИ-движки, ответственные за создание глубоких фейков, могут не всегда использовать эту функцию безопасности.
Кроме того, открытая природа многих ИИ-платформ создает серьезные препятствия для защиты цифрового контента. Легкость, с которой эти платформы можно получить, изменить и распространить, означает, что любые функции безопасности могут быть легко обойдены теми, кто обладает знаниями и намерением это сделать.
Непрерывная гонка вооружений в сфере ИИ
По мере совершенствования инструментов обнаружения улучшаются и методы создания глубоких фейков, вовлекая технологические компании и экспертов по кибербезопасности в бесконечную игру в «кошки-мышки». Хотя более крупные и контролируемые модели ИИ демонстрируют потенциал в предотвращении создания и распространения незаконного контента, эксперты признают необходимость постоянной бдительности и развития методологий обнаружения.
Особенно тревожным является рост количества материалов сексуального насилия над детьми (CSAM), созданных с помощью глубоких фейков, при этом открытые ИИ-модели способствуют распространению такого контента. Интернет-фундамент наблюдения Великобритании (Internet Watch Foundation) отмечает сложность различения этих ИИ-сгенерированных изображений от настоящих фотографий, что усложняет работу правоохранительных органов и групп по обеспечению безопасности в интернете.
Последствия и взгляд в будущее
По мере того как мир осмысливает последствия технологии глубоких фейков, дискуссия вышла на глобальные платформы, при этом такие организации, как Организация Объединенных Наций, подчеркивают потенциал ИИ-контента для разжигания ненависти и распространения дезинформации. Тем временем меняется правовое поле, о чем свидетельствуют громкие судебные иски от знаменитостей, стремящихся защитить свои образы от несанкционированного использования в ИИ-генерациях.
По мере эскалации ставок в «гонке вооружений» ИИ, потенциал технологии причинять вред или приносить пользу остается неопределенным. По мере того как границы между реальным и синтетическим продолжают стираться, призыв к ответственному использованию ИИ никогда не был таким актуальным, а диалог вокруг этой проблемы — более значимым. Поиск решения, которое сможет опередить развитие обманчивых технологий, продолжает мотивировать как новаторов, так и обеспокоенных сторон, стремясь сохранить целостность цифрового контента в мире, который становится все более виртуальным.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Бренда Канана
Бренда имеет более 4 лет опыта, специализируясь на криптовалютах, искусственном интеллекте и новых технологиях. Она работала в Zycrypto, Blockchain Reporter, The Coin Republic, а теперь делает Cryptopolitan своим домом. Степень по социологии, полученная в Техническом университете Момбасы, помогает ей оставаться в курсе настроений своих читателей.
