A Índia dá às grandes empresas de tecnologia nove dias para construir o que não conseguiram em anos

Índia just jogou um desafio que poderia pode ser impossível de cumprir. A partir de 20 de fevereiro, as empresas de mídia social que operam no país devem rotular todo o conteúdo falso de IA e remover deepfakes ilegais dentro de três horas. A tecnologia para não isso fazer isso adequadamente ainda não existe.

As regras, anunciadas na terça-feira, colocam pressão sobre plataformas como Meta, Google e X para implantar sistemas que capturam e marcam imagens, vídeos e áudio gerados por IA antes que os usuários os vejam. As empresas também devem impedir que as pessoas removam ou ocultem esses rótulos. Mesmo com bilhões de recursos, essas gigantes da tecnologia lutam para fazer suas ferramentas de detecção atuais funcionarem de forma confiável.

A maioria das grandes plataformas já usa algo chamado C2PA, que planta informações invisíveis dentro dos arquivos para mostrar como foram fizeram. É como um rótulo nutricional para conteúdo digital. Quando funciona, você pode ver se uma foto veio de uma câmera real ou de um gerador de IA. Facebook, Instagram, YouTube e LinkedIn tentam sinalizar esse conteúdo, mas os rótulos arfáceis de perder, e muita coisa falsa escapa pelos filtros.

The system has major holes. Open-source AI tools and apps that make fake nude photos often skip the labeling process completely. Even when labels exist, they disappear during file uploads on many sites. C2PA’s supporters have spent years saying the technology just needs wider adoption to succeed. India is about to test that claim with 500 million social media users.

Por que o poder de mercado da Índia muda tudo

A Índia tem 481 milhões de usuários do Instagram, 403 milhões no Facebook, 500 milhões assistindo ao YouTube e 213 milhões usando o Snapchat. O X considera a Índia seu terceiro maior mercado. Quando um país de tamanho faz novas regras, as empresas de tecnologia globais geralmente ajustam seus sistemas em todos os lugares, não apenas em um local.

Essa pressão vem depois que a Índia passou meses lidando com uma crise de deepfakes . A Cryptopolitan relatou em outubro passado que os atores de Bollywood Abhishek Bachchan e Aishwarya Rai Bachchan processaram por causa de vídeos falsos usando seus rostos, buscando quase meio milhão de dólares em indenizações. O casal alegou que os treinadores de IA do YouTube pegaram conteúdo público sem permissão para treinar sistemas que mais tarde criaram mídia falsa com suas imagens. Casos como esses, junto com vídeos falsos virais da atriz Rashmika Mandanna, levaram as autoridades a agir.

O momento coincide com as ambições de IA da Índia. O Google está construindo um centro de IA de US$ 15 bilhões em Visakhapatnam que se tornará a maior instalação da empresa fora dos Estados Unidos. O local terá poder de computação em escala de gigawatts e está programado para abrir em julho de 2028. Com esse tipo de infraestrutura de IA chegando, os reguladores querem que as regras de segurança de conteúdo estejam em vigor primeiro.

Críticos alertam para “censura de tiro rápido”

Os prazos apertados preocupam os defensores da liberdade de expressão. A Internet Freedom Foundation afirma que a janela de remoção de três horas obrigará as empresas a usar sistemas automatizados que excluem conteúdo demais por engano. Eles chamam isso de criação de "censores em rápida sucessão" porque não há tempo para que humanos revisem os relatórios adequadamente.

Plataformas como o X, que ainda não configuraram nenhum rótulo de IA, agora têm apenas nove dias para construir sistemas inteiros do zero. Meta, Google e X se recusaram a comentar. A Adobe, a empresa por trás do C2PA, permaneceu em silêncio também.

Os funcionários que redigem as regras parecem acreditar que a tecnologia atual não está pronta. Os requisitos determinam que as plataformas devem usar métodos de detecção “na medida do tecnicamente viável” – uma linguagem jurídica que admite que a perfeição não é esperada. Os líderes indianos acreditam que a pressão impulsionará a inovação. Eles estão apostando que, ao forçar as empresas de tecnologia a construir sistemas melhores ou perder o acesso a centenas de milhões de usuários, elas resolverão isso rapidamente.

Se a tecnologia de detecção de IA melhor realmente existe para ser construída, ou se a Índia apenas ordenou que as empresas entregassem algo que não pode ser feito ainda, permanece por ver. Nós descobriremos em nove dias.