Технологические гиганты объединяются для борьбы с угрозой дипфейков с помощью учетных данных контента

По всему миру deepfakes получили большое внимание. Поскольку появилось много международных компаний, использующих сгенерированные ИИ дипфейки, существует общее согласие по общему подходу к этой проблеме. В начале этого года Google в C2PA стал руководящим комитетом вместе с другими, такими как OpenAI, Adobe, Microsoft, AWS и члены RIAA. Из-за опасений по поводу дипфейков и дезинформации в ИИ в целом, ИТ-специалисты захотят принять работу этого агентства, делая конкретные ссылки на учетные данные контента.

Учетные данные контента: новый стандарт

Отрасль собирается регулировать конкретную область управления визуальными и видео данными в целом, поэтому ИТ-команда будет особенно внимательна к этому. Учетные данные контента — это способ, с помощью которого цифровые метаданные, которыми могут пользоваться создатели или владельцы контента, могут получить надлежащие кредиты и внедрить честность в экосистему. Эти необратимые метаданные состоят из имени и деталей художника и вписываются непосредственно в контент при экспорте или загрузке.

Метки контента, созданные по одним и тем же правилам и разрешениям, имеют большие шансы на внедрение стандартизированной маркировки в полном и принимающем мире благодаря весу компаний, стоящих за идеей. Учетные данные контента представляют собой уникальную возможность по ряду причин. Это поможет укрепить доверие и надежность среди аудитории, так как предоставляет необходимую информацию об авторе или творческом процессе. Это развивает атмосферу в помещении, которая помогает бороться с дезинформацией и ложной информацией. 

Прикрепляйте любые контактные данные к своей работе, чтобы усилить идентичность художников, чтобы пользователи могли отслеживать и связываться с ними для признания и видимости. Кроме того, будут приняты некоторые меры, направленные на интернет-контент, который не является реальным, такой как контент, который является фальшивым и создан для обмана людей. История Австралии отражает самый большой всплеск мошенничества с дипфейками, подобно остальному миру. Sumsub в своем третьем отчете о мошенничестве с идентификацией заявил, что количество дипфейков в Австралии увеличилось в 15 раз по сравнению с предыдущим годом, а изощренность поддельных медиа в сторону реалистичной формы-продвижения усилилась.

Поскольку человеческий глаз почти мгновенно отключает свою защиту, дипфейки становятся высоко убедительными. Исследования показывают, что может потребоваться всего 13 миллисекунд для категоризации изображений, что намного короче времени, необходимого человеку для обработки информации и аутентификации или отклонения её. Австралийский комиссар по безопасности в сети отмечает, что «разработка инноваций для помощи в идентификации дипфейков пока не успевает за технологией». Со своей стороны, австралийское правительство обязалось бороться с дипфейками.

Борьба с дипфейками в Австралии

Дипфейки представляют собой очень реальную угрозу стабильности и безопасности всех австралийцев. Любая долгосрочная кампания по предотвращению дипфейков должна сосредоточиться на кампаниях по повышению осведомленности, которые помогают людям понять, как работают дипфейки, и какие варианты доступны, чтобы избежать попадания в ловушку этих трюков.

Для того чтобы это видение стало реальностью, потребуется отраслевой консенсус, при этом основные заинтересованные стороны на стороне предложения предоставят технологию и окажут наибольшее влияние на AI. Но именно здесь появляются учетные данные контента. Хотя учетные данные контента — это лучший шанс создать стандарты, которые закроют проблему дипфейков, вопросы обнаружения, регулирования и наказания за злоупотребления останутся. Это означает, что превентивные меры не основаны на межотраслевом уровне и не поддерживаются массами лидеров полевых лидеров в медиаиндустрии. Такие реализации могут охватить большой кусок интернета, и в такие времена большинство сайтов мгновенно так же информированы, как и вирусные сайты в поисковой системе.

Люди, участвующие в ИТ и ИИ, работающие над созданием контента, будут желать. Они должны понимать учетные данные контента так же, как веб-разработчики достигли уровня переплетения с безопасностью, SEO и каждым стандартом, который существует для защиты контента от блокировки. Шаги, которые они должны предпринять, включают:

Внедрение учетных данных контента: Во-первых, ИТ-эксперты должны убедиться, что их компания полностью внедряет и интегрирует учетные данные контента в рабочие процессы для поддержания подлинности и отслеживаемости контента.

Адвокатирование за прозрачность: Предложение внутри и снаружи с партнерами и клиентами приводит к организованной защите организаций, чтобы они были прозрачны в использовании ИИ и принимали этические практики в создании и распространении контента.

Поддерживающее регулирование: Рассмотрите участие в отраслевых ассоциациях и правительственных структурах для формирования политики и нормативных актов, направленных на противодействие вызовам, порождаемым глубокими подделками (deepfakes). Это потребует не только участия во множестве общественных консультаций, проводимых правительством по вопросам ИИ, но и активного влияния на формирование политики.

Сотрудничество: Объедините свой опыт с другими специалистами и организациями, создавая общие, согласованные подходы и инструменты для выявления рисков, связанных с глубокими подделками.

Подготовка стратегий реагирования: Готовьтесь к вызовам, которые несут глубокие подделки, и разрабатывайте планы действий на случай обнаружения таких материалов, включая управление репутационными рисками и коммуникации.

Использование ресурсов сообщества: платформа также должна использовать ресурсы из сообществ кибербезопасности, таких как Комиссар по безопасности в сети eSafety, чтобы получать своевременные последние разработки.

Создание глубоких подделок представляет собой наиболее сложную задачу для специалистов в области информационных технологий, которым необходимо найти применимое решение. Content Credentials предлагают отличную стартовую платформу для всего мира, на которой может строиться остальная часть индустрии.