- Крупные технологические компании внедряют меры для обнаружения контента, созданного ИИ, повышая прозрачность.
- Технические проблемы в области маркировки и обнаружения медиа, созданного ИИ, сохраняются.
- Регуляторные рамки формируются параллельно с добровольными усилиями по борьбе с контентом, созданным ИИ.
В ответ на растущие опасения по поводу распространения контента, созданного ИИ, крупные технологические компании объявили о мерах, направленных на обнаружение и маркировку такого контента.
Эти усилия происходят на фоне инцидентов, таких как скандал с дипфейк-порнографией Тейлор Свифт и распространение политических дипфейков.
Крупные технологические компании объединяют усилия для маркировки и обнаружения контента, созданного ИИ.
Meta, ранее известная как Facebook, объявила о планах маркировать изображения, созданные ИИ, на своих платформах, включая Facebook, Instagram и Threads. Эти метки, видимые маркеры, невидимые водяные знаки и метаданные, встроенные в файлы изображений, направлены на повышение прозрачности и подотчетности в отношении происхождения контента.
Google, в свою очередь, присоединился к руководящему комитету C2PA (Content Authenticity Initiative), поддержав открытый интернет-протокол, предназначенный для предоставления «пищевых этикеток» для контента. Этот шаг означает совместные усилия технологических гигантов по установлению отраслевых стандартов для обнаружения контента, созданного ИИ.
OpenAI внедряет меры по обеспечению происхождения контента
OpenAI также ввела меры для решения этой проблемы. Она добавит водяные знаки в метаданные изображений, созданных с помощью ее моделей ИИ ChatGPT и DALL-E 3, предоставляя видимую метку, указывающую на участие ИИ в создании контента.
Хотя эти методы представляют собой шаг вперед, они не являются надежными: остаются проблемы с маркировкой и обнаружением видео, аудио и текста, созданных ИИ.
Вызовы и будущие перспективы
Несмотря на достижения в области маркировки контента и водяных знаков, сохраняются технические ограничения. Водяные знаки в метаданных можно обойти, сделав скриншот, тогда как визуальные метки подвержены обрезке или редактированию. Невидимые водяные знаки, такие как SynthID от Google, предлагают большую устойчивость, но также не лишены проблем.
Необходимость нормативных рамок
Помимо добровольных мер, набирают обороты нормативные рамки. Инициативы, такие как Закон ЕС об ИИ и Закон о цифровых услугах, обязывают раскрывать информацию о контенте, созданном ИИ, и ускорять удаление вредоносного контента. Законодатели США также рассматривают обязательные правила в отношении дипфейков, а Федеральная комиссия по связи США недавно запретила использование ИИ в роботизированных звонках.
Хотя добровольные руководства являются шагом в правильном направлении, сохраняются опасения по поводу подотчетности отрасли. История саморегулирования в технологическом секторе вызывает сомнения в эффективности добровольных мер. Однако недавние объявления сигнализируют о прогрессе по сравнению с предыдущим отсутствием действий.
Не просто читайте новости о криптовалютах. Понимайте их. Подпишитесь на нашу рассылку. Это бесплатно.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Эмман Омванда
Экспертиза Эммануэля Омванды охватывает рынки криптовалют, включая фундаментальный и технический анализ. Ранее он работал в различных крипто-медиа-изданиях перед присоединением к Cryptopolitan, включая CoinEdition, The Crypto Basic, CryptoNews Flash и DroomDroom. Он имеет степень бакалавра наук (BSc.) по математике и компьютерным наукам Университета Кеньятта (Кения) и в настоящее время находится на последнем году обучения по степени бакалавра искусств в области коммуникаций и медиаисследований.
