India da a las grandes tecnológicas nueve días para construir lo que no pudieron en años

India just lanzó un desafío que podría podría ser imposible de cumplir. A partir del 20 de febrero, las empresas de redes sociales que operan en el país deben etiquetar cada pieza de contenido falso generado por IA y eliminar los deepfakes ilegales en tres horas. La tecnología para no podría hacerlo adecuadamente aún no existe.

Las reglas, anunciadas el martes, ejercen presión sobre plataformas como Meta, Google y X para que implementen sistemas que detecten y marquen imágenes, videos y audio generados por IA antes de que los usuarios los vean. Las empresas también deben impedir que las personas eliminen u oculten estas etiquetas. Incluso con billones en recursos, estas gigantes tecnológicas luchan por hacer que sus herramientas de detección actuales funcionen de manera confiable.

La mayoría de las grandes plataformas ya utilizan algo llamado C2PA, que inserta información invisible dentro de los archivos para mostrar cómo fueron hicieroncreados. Es como una etiqueta nutricional para el contenido digital. Cuando funciona, puedes ver si una foto proviene de una cámara real o de un generador de IA. Facebook, Instagram, YouTube y LinkedIn intentan marcar este contenido, pero las etiquetas aveces fácilmente, y mucha falsedad se filtra.

El sistema tiene grandes lagunas. Las herramientas y aplicaciones de IA de código abierto que crean fotos desnudas falsas a menudo omiten el proceso de etiquetado completamente. Incluso cuando existen etiquetas, desaparecen durante la carga de archivos en muchos sitios. Los partidarios de C2PA han pasado años diciendo que la tecnología solo necesita una adopción más amplia para tener éxito. India está a punto de probar esa afirmación con 500 millones de usuarios de redes sociales.

Por qué el poder de mercado de India lo cambia todo

India tiene 481 millones de usuarios de Instagram, 403 millones en Facebook, 500 millones viendo YouTube y 213 millones usando Snapchat. X considera a India su tercer mercado más grande. Cuando un país de esta magnitud establece nuevas reglas, las empresas tecnológicas globales suelen ajustar sus sistemas en todas partes, no solo en un lugar.

Este impulso llega después de que India pasara meses lidiando con una crisis de deepfakes. Cryptopolitan informó el pasado octubre que los actores de Bollywood Abhishek Bachchan y Aishwarya Rai Bachchan demandaron por videos falsos que usaban sus rostros, buscando casi medio millón de dólares en daños. La pareja alegó que los entrenadores de IA de YouTube capturaron contenido público sin permiso para entrenar sistemas que luego crearon medios falsos con sus imágenes. Casos como estos, junto con videos falsos virales de la actriz Rashmika Mandanna, empujaron a los funcionarios a actuar.

El coincide con las ambiciones de IA de India. Google está construyendo un centro de IA de $15 mil millones en Visakhapatnam que se convertirá en la instalación más grande de la compañía fuera de Estados Unidos. El sitio tendrá capacidad de computación a escala de gigavatios y está previsto que abra en julio de 2028. Con ese tipo de infraestructura de IA llegando, los reguladores quieren que las reglas de seguridad del contenido estén establecidas primero.

Los críticos advierten sobre la "censura de disparo rápido"

The tight deadlines worry free speech advocates. The Internet Freedom Foundation says the three-hour takedown window will force companies to use automated systems that delete too much content by mistake. They call it creating “rapid fire censors” because there’s no time for humans to review reports properly.

Plataformas como X, que no han establecido aún ningún etiquetado de IA, ahora tienen solo nueve días para construir sistemas completos desde cero. Meta, Google y X declinaron hacer comentarios. Adobe, la empresa detrás de C2PA, permaneció en silencio también.

Officials writing the rules seem to know current technology isn’t ready. The requirements say platforms should use detection methods “to the extent technically feasible” – legal language that admits perfection isn’t expected. India’s leaders believe pressure will drive innovation. They’re betting that when you force tech companies to either build better systems or lose access to hundreds of millions of users, they’ll figure it out fast.

Si existe realmente una mejor tecnología de detección de IA que pueda construirse, o si India simplemente ordenó a las empresas entregar algo que no se puede crear aún, todavía está por verse. Lo sabremos en nueve días.