Технологические гиганты создают альянс против контента, созданного с помощью ИИ
- Крупные технологические компании внедряют меры по обнаружению контента, создаваемого ИИ, что повышает прозрачность.
- Технические проблемы по-прежнему возникают при маркировке и обнаружении медиаконтента, созданного с помощью ИИ.
- Наряду с добровольными усилиями по борьбе с контентом, создаваемым ИИ, появляются и нормативные рамки.
В ответ на растущую обеспокоенность по поводу распространения контента, создаваемого ИИ, крупные технологические компании объявили об инициативах, направленных на обнаружение и маркировку такого контента.
Эти усилия предпринимаются после такихdent, как скандал с фейковым порно с Тейлор Свифт и распространение политических фейков.
Компания Big Tech Bands объединяет усилия для маркировки и обнаружения контента, созданного искусственным интеллектом.
Компания Meta, ранее известная как Facebook, объявила о планах маркировать изображения, созданные с помощью искусственного интеллекта, на своих платформах, включая Facebook, Instagram и Threads. Эти метки, видимые маркеры, невидимые водяные знаки и метаданные, встроенные в файлы изображений, призваны повысить прозрачность и ответственность за происхождение контента.
Компания Google, с другой стороны, присоединилась к руководящему комитету C2PA (Инициатива по обеспечению подлинности контента), одобрив открытый интернет-протокол, предназначенный для предоставления «маркировок пищевой ценности» контента. Этот шаг символизирует совместные усилия технологических гигантов по установлению общеотраслевых стандартов для обнаружения контента, созданного с помощью ИИ.
OpenAI реализует меры по определению происхождения контента
Компания OpenAI также приняла меры для решения этой проблемы. Она будет добавлять водяные знаки к метаданным изображений, созданных с помощью её моделей ИИ, ChatGPT и DALL-E 3, обеспечивая визуальную маркировку, указывающую на участие ИИ в создании контента.
Хотя эти методы представляют собой шаг вперед, они не являются абсолютно надежными, поскольку сохраняются проблемы с маркировкой и обнаружением видео, аудио и текста, созданных ИИ.
Вызовы и перспективы на будущее
Несмотря на достижения в области маркировки контента и водяных знаков, технические ограничения сохраняются. Водяные знаки в метаданных можно обойти, сделав скриншоты, в то время как визуальные метки подвержены обрезке или редактированию. Невидимые водяные знаки, такие как SynthID от Google, обеспечивают большую устойчивость, но не лишены недостатков.
Необходимость нормативно-правовой базы
Помимо добровольных мер, набирает tracнормативно-правовая база. Такие инициативы, как Закон ЕС об искусственном интеллекте и Закон о цифровых услугах, требуют раскрытия контента, созданного с помощью искусственного интеллекта, и ускоренного удаления вредоносного контента. Американские законодатели также рассматривают введение обязательных правил в отношении дипфейков: Федеральная комиссия по связи недавно запретила использование искусственного интеллекта в автоматических звонках.
Хотя добровольные рекомендации — это шаг в правильном направлении, сохраняются опасения по поводу ответственности отрасли. История саморегулирования в технологическом секторе вызывает сомнения в эффективности добровольных мер. Тем не менее, недавние заявления свидетельствуют о прогрессе по сравнению с предыдущим бездействием.
Не просто читайте новости о криптовалютах. Разберитесь в них. Подпишитесь на нашу рассылку. Это бесплатно.
Предупреждение. Предоставленная информация не является торговой рекомендацией. Cryptopolitanнастоятельно не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мыtronпровести независимоеdent и/или проконсультироваться с квалифицированным специалистом, прежде чем принимать какие-либо инвестиционные решения.
Эмман Омванда
Эммануэль Омванда специализируется на криптовалютных рынках, охватывая как фундаментальный, так и технический анализ. До прихода в Cryptopolitanон работал с различными криптомирными СМИ, включая CoinEdition, The Crypto Basic, CryptoNews Flash и DroomDroom. Он имеет степень бакалавра наук (BSc.) в областиmaticи компьютерных наук, полученную в Университете Кеньятта, Кения, и в настоящее время учится на последнем курсе бакалавриата в области коммуникаций и медиаисследований.
