Можно ли обеспечить безопасность ИИ, водяными знаками от крупных технологических компаний?

В рамках значимого шага для решения проблем безопасности ИИ крупные технологические компании обязались принять добровольные руководящие принципы, такие как использование водяных знаков, чтобы помочь пользователям идентифицировать контент, сгенерированный ИИ, как часть их усилий по предотвращению злоупотреблений и misuse (неправомерного использования) ИИ. Эти компании, Amazon, Anthropic, Google, Meta, Microsoft, OpenAI и стартап в области машинного обучения Inflection, согласились с администрацией Байдена подвергать свои системы тестированию независимыми экспертами. Этот шаг происходит на фоне популярности и инвестиций в технологию генеративного ИИ, что побуждает законодателей по всему миру рассматривать регулирование для защиты национальной безопасности и экономики.

Решение проблем, связанных с технологией ИИ

Быстрый рост генеративного ИИ, который использует данные для создания контента, похожего на человеческий, вызвал опасения по поводу его потенциальных рисков для различных сфер. В июне лидер большинства в Сенате США Чак Шумер призвал к всеобъемлющему законодательству для обеспечения надлежащих safeguards (мер защиты) на искусственный интеллект. Чтобы решить эти проблемы, Конгресс рассматривает законопроект, требующий от политических рекламодателей раскрывать, использовался ли ИИ для создания контента.

Президент Джо Байден активно работает над разработкой исполнительного указа и двустороннего законодательства для дальнейшего регулирования технологии ИИ. В рамках этих усилий руководители семи крупных компаний ИИ собираются в Белом доме в пятницу, чтобы обсудить свои обязательства. Компании согласились разработать систему водяных знаков для всех форм контента, сгенерированного ИИ, включая текст, изображения, аудио и видео. Эта техника водяных знаков направлена на то, чтобы предоставить пользователям четкое указание на то, когда технология ИИ использовалась для создания контента.

Водяные знаки для повышения безопасности ИИ

Предлагаемая система водяных знаков, как ожидается, будет иметь решающее значение в борьбе с потенциальными опасностями, связанными с контентом, сгенерированным ИИ. Путем технического внедрения водяного знака в контент пользователи будут лучше оснащены для выявления deep-fake (поддельных) изображений или аудио, которые могут изображать несуществующее насилие, способствовать мошенничеству или представлять политиков в плохом свете. Однако детали о том, как водяной знак будет заметен при обмене информацией, не были разъяснены.

Цифровые водяные знаки подтверждают подлинность или целостность несущего сигнала или показывают идентификатор его владельцев. Водяной знак не только отпугивает людей от утечки документов, но если утечка происходит, источник утечки можно легко идентифицировать, когда на файл помещен водяной знак с именем разрешенного получателя. Цифровое водяное знамение — это технология, при которой идентификационная информация встраивается в носитель данных таким образом, чтобы ее было трудно заметить, и при этом использование данных не пострадало. Эта технология часто защищает авторские права на мультимедийные данные, а также базы данных и текстовые файлы.

Обязательства, выходящие за рамки водяных знаков

Обязательства компаний выходят за рамки водяных знаков и распространяются на защиту конфиденциальности пользователей по мере развития технологии ИИ. Они также пообещали обеспечить, чтобы их системы ИИ были свободны от предвзятости и воздерживались от использования для дискриминации уязвимых групп. Компании заявили, что будут публично отчитываться о возможностях и ограничениях своих систем ИИ, а также о руководящих принципах их этичного использования. Компании планируют проводить исследования социальных рисков, создаваемых ИИ. Кроме того, эти компании пообещали развернуть решения ИИ для решения научных проблем, таких как медицинские исследования и смягчение последствий изменения климата.

Шаг вперед для безопасности ИИ

Добровольные обязательства, принятые этими крупными компаниями ИИ, означают значительный шаг вперед в решении проблем безопасности, связанных с технологией ИИ. При сотрудничестве лидеров отрасли и продолжающихся регуляторных усилиях есть оптимизм, что ИИ может продолжать процветать, соблюдая ответственные практики.

По мере того как генеративный ИИ продолжает набирать популярность и инвестиции, регуляторы и законодатели по всему миру сосредоточились на решении потенциальных рисков. Обязательства, принятые ведущими компаниями ИИ по внедрению мер водяных знаков и повышению безопасности через ответственные практики, отмечают позитивное развитие в этой области. Усилия президента Байдена по разработке исполнительных указов и двустороннего законодательства further (далее) укрепляют важность обеспечения безопасного и этичного использования технологии ИИ. ИИ может раскрыть свой потенциал, смягчая социальные риски, при продолжении сотрудничества между заинтересованными сторонами отрасли и регуляторными органами.