Индия дала крупным технологическим компаниям девять дней на создание того, что они не могли сделать годами

Индиятолькочто бросила вызов, который, возможно , окажется невыполнимым. Начиная с 20 февраля, компании, работающие в сфере социальных сетей в стране, должны помечать каждый фрагмент фейкового контента, созданного с помощью ИИ, и удалять незаконные дипфейки в течение трех часов. Технология, позволяющая сделать это должным образом, пока не существует.

Правила, объявленныевовторник, оказывают давление на такие платформы, как Meta, Google и X, с целью внедрения систем, которые перехватывают и помечают изображения, видео и аудио, созданные с помощью ИИ, до того, как их увидят пользователи. Компании также должны предотвратить удаление или скрытие этих меток. Даже имея миллиардыресурсов, эти технологические гиганты с трудом обеспечивают надежную работу своих существующих инструментов обнаружения.

Большинство крупных платформ уже используют технологию C2PA, которая внедряет невидимую информацию в файлы, чтобы показать, как они были созданы. Это как этикетка с информацией о пищевой ценности цифрового контента. Когда это работает, можно увидеть, была ли фотография сделана реальной камерой или с помощью генератора искусственного интеллекта. Facebook, Instagram, YouTube и LinkedIn пытаются помечать такой контент, но эти меткилегкопропустить же, и множество подделок проскальзывает.

В системе есть серьёзные недостатки . Инструменты и приложения с открытым исходным кодом для создания поддельных фотографий обнажённых тел часто полностью пропускают процесс маркировки . Даже если метки существуют, они исчезают во время загрузки файлов на многих сайтах. Сторонники C2PA годами утверждали, что для успеха технологии просто необходимо более широкое распространение. Индия вот-вот проверит это утверждение на примере 500 миллионов пользователей социальных сетей.

Почему рыночная мощь Индии меняет всё

В Индии 481 миллион пользователей Instagram, 403 миллиона — Facebook, 500 миллионов смотрят YouTube и 213 миллионов используют Snapchat. X считает Индию своим третьим по величине рынком. Когда такая большая страна вводит новые правила, глобальные технологические компании, как правило, корректируют свои системы повсюду, а не только в одном месте.

Этот толчок был предпринят после того, как Индия несколько месяцев боролась с кризисом, связанным с дипфейками . В октябре прошлого года Cryptopolitan сообщило , что актеры Болливуда Абхишек Баччан и Айшвария Рай Баччан подали в суд из-за фейковых видеороликов с использованием их лиц, требуя компенсацию в размере почти полумиллиона долларов. Пара утверждала, что ИИ-тренеры YouTube без разрешения брали общедоступный контент для обучения систем, которые впоследствии создавали фейковые медиафайлы с их изображениями. Подобные случаи, наряду с вирусными фейковыми видеороликами актрисы Рашмики Манданны, подтолкнули чиновников к действиям .

Сроки совпадают с амбициями Индии в области ИИ. Google строит в Вишакхапатнаме центр ИИ стоимостью 15 миллиардов долларов, который станет крупнейшим объектом компании за пределами Америки. Этот центр будет обладать вычислительными мощностями гигаваттного масштаба и должен открыться в июле 2028 года. С появлением такой инфраструктуры ИИ регулирующие органы хотят сначала ввести правила обеспечения безопасности контента.

Критики предупреждают о «быстрой цензуре»

Жесткие сроки вызывают беспокойство у защитников свободы слова. Фонд свободы интернета утверждает, чтотрехчасовой срок удаления контента заставит компании использовать автоматизированные системы, которые по ошибке удаляют слишком много контента. Они называют это созданием «быстрых цензоров», потому что нет времени должным образом проверять отчеты.

Платформы, подобные X, которые еще не внедрили систему разметки на основе ИИ, теперь имеют всего девять дней на создание целых систем с нуля. Meta, Google и X отказались от комментариев. Компания Adobe, разработавшая C2PA, также хранит молчание .

Похоже, чиновники, разрабатывающие правила, понимают, что существующие технологии к этому не готовы. В требованиях говорится, что платформы должны использовать методы обнаружения «в той мере, в какой это технически возможно» — юридическая формулировка, которая признает, что совершенства не ожидается. Лидеры Индии считают, что давление будет стимулировать инновации. Они рассчитывают на то, что, заставив технологические компании либо создавать более совершенные системы, либо потерять доступ к сотням миллионов пользователей, они быстро найдут решение .

Существует ли на самом деле более совершенная технология обнаружения с помощью ИИ , которую можно разработать, или же Индия просто приказала компаниям создать то, что пока невозможно . Узнаем через девять дней.