India da a las grandes tecnológicas nueve días para construir lo que no pudieron en años

Indiaacabade lanzar un desafío que podría ser imposible de superar. A partir del 20 de febrero, las empresas de redes sociales que operan en el país deben etiquetar todo el contenido falso creado con IA y eliminar los deepfakes ilegales en un plazo de tres horas. La tecnología para hacerlo correctamente aún no existe.

Las normas, anunciadaselmartes, presionan a plataformas como Meta, Google y X para que implementen sistemas que capturen y marquen imágenes, vídeos y audios generados por IA antes de que los usuarios los vean. Las empresas también deben impedir que las personas eliminen u oculten estas etiquetas. Incluso con miles de millones de dólaresenrecursos, estos gigantes tecnológicos tienen dificultades para que sus herramientas de detección actuales funcionen de forma fiable.

La mayoría de las grandes plataformas ya utilizan una tecnología llamada C2PA, que inserta información invisible en los archivos para revelar cómo se crearon .Es como una etiqueta nutricional para el contenido digital. Cuando funciona, permite saber si una foto proviene de una cámara real o de un generador de IA. Facebook, Instagram, YouTube y LinkedIn intentan detectar este tipo de contenido, pero las etiquetas sonfácilesde pasar por altomuchos contenidos se cuelan

El sistema tiene grandes fallos. Las herramientas y aplicaciones de IA de código abierto que crean fotos falsas de desnudos a menudo omiten el proceso de etiquetado por completo. Incluso cuando existen etiquetas, estasdesaparecendurante la carga de archivos en muchos sitios. Los defensores de C2PA llevan años afirmandoquela tecnología solo necesita una mayor adopción para tener éxito. India está a punto de poner a prueba esta afirmación con 500 millones de usuarios de redes sociales.

Por qué el poder de mercado de la India lo cambia todo

India tiene 481 millones de usuarios de Instagram, 403 millones de usuarios de Facebook, 500 millones de usuarios de YouTube y 213 millones de usuarios de Snapchat. X considera a India su tercer mercado más grande Cuando un paístan. grande establece nuevas reglas, las empresas tecnológicas globales suelen ajustar sus sistemas en todas partes, no solo en un lugar.

Este impulso se produce después de que India pasara meses lidiando con una crisis. Cryptopolitan informó en octubre pasado que los actores de Bollywood Abhishek Bachchan y Aishwarya Rai Bachchan demandaron por videos falsos que usaban sus rostros, exigiendo casi medio millón de dólares en daños y perjuicios. La pareja afirmaquelos entrenadores de IA de YouTube tomaron contenido público sin permiso para entrenar sistemas que luego crearon contenido falso con sus imágenes. Casos como estos, junto con los videos falsos virales de la actriz Rashmika Mandanna, impulsaron a los funcionarios a actuar.

El momento coincide con las ambiciones de la India en materia de IA. Google está construyendo un centro de IA de 15.000 millones de dólares en Visakhapatnam, que se convertirá en la mayor instalación de la compañía fuera de Estados Unidos. El centro contará con una capacidad de computación a escala de gigavatios y su inauguración está prevista para julio de 2028. Ante la llegada de este tipo de infraestructura de IA, los reguladores exigen que se establezcan primero normas de seguridad de contenido.

Los críticos advierten de una “censura rápida”

Los plazos tan ajustados preocupan a los defensores de la libertad de expresión. La Fundación para la Libertad en Internet afirmaqueel plazo de tres horas para eliminar contenido obligará a las empresas a utilizar sistemas automatizados que borran demasiado contenido por error. Lo denominan la creación de "censores de fuego rápido", ya que hay tiempo para que los humanos revisen los informes adecuadamente.

Plataformas como X, que no han implementado ningún sistema de etiquetado con IA, ahora tienen solo nueve días para construir sistemas completos desde cero. Meta, Google y X declinaron hacer comentarios. Adobe, la empresa detrás de C2PA, guardó silencio también.

Los funcionarios que redactan las normas parecen ser conscientes de que la tecnología actual no está lista. Los requisitos establecen que las plataformas deben usar métodos de detección "en la medida en que sea técnicamente factible", un lenguaje legal que admite que no se espera la perfección. Los líderes de la India creen quela presiónimpulsará la innovación. Apuestan a que, al obligar a las empresas tecnológicas a desarrollar mejores sistemas o perder el acceso a cientos de millones de usuarios, resolverán lo rápidamente.

si realmente existe una tecnología de detección de IA mejor que pueda desarrollarse, o si India simplemente encargó a las empresas que fabricaran algo que no se puede producir aún Queda por ver Lo sabremos en nueve días.