Meta etiquetará los medios generados por IA en Facebook e Instagram

Meta, la empresa matriz de Facebook e Instagram, dijo que dejaría de aplicar sus etiquetas manuales a los medios sintéticos producidos a partir de mayo. Tales regulaciones pueden aliviar la carga de los ataques comunes de deepfakes y desinformación en sus medios.

Abordar las preocupaciones sobre la desinformación

Se espera que Meta tome nuevas acciones para mitigar la propagación de contenido sintético en respuesta a las crecientes críticas y las tecnologías de IA de rápido crecimiento. A partir de mayo de 2024, la compañía introducirá etiquetas de "Creado con IA" para indicar cuándo el texto, las imágenes, el audio y los videos han sido creados o modificados utilizando inteligencia artificial.

La decisión de Meta de etiquetar el material producido por IA es parte de la amplia campaña de la compañía para ofrecer a los usuarios mucha información y, en efecto, más transparencia. Esto significa que Facebook no estará en condiciones de eliminar esas cosas que son falsas, pero podría etiquetarlas adicionalmente poniéndolas en contexto. Eso, después de todo, es lo que Mark Zuckerberg, CEO de Meta, ha dicho que hará la compañía: eventualmente lanzar una iniciativa educativa sobre el daño de los medios manipulados. Así lo afirma una investigación de la junta de supervisión que Facebook encargó.

Sin embargo, existía la preocupación de que las aplicaciones impulsadas por IA en campañas de noticias falsas pudieran utilizarse para interferir en el proceso electoral. En segundo lugar, la junta expresó urgencia y enfatizó la necesidad imperiosa de contramedidas efectivas, especialmente durante el tiempo electoral en cualquier país.

Planificación del lanzamiento y modificaciones de políticas

Los medios manipulados que fueron eliminados antes de la política se volverán a habilitar en una fecha posterior, disponibles para ver por los consumidores en las páginas de contenido de noticias de Facebook. El contenido manipulado por IA bajo el nuevo estándar solo se eliminará si viola otras reglas de la plataforma, como las que prohíben el discurso de odio o la interferencia en las elecciones.

Uno de los muchos acuerdos que tratan sobre el contenido manipulado, Meta tiene un gran enfoque en la cooperación con otros gigantes tecnológicos y desarrolladores de IA. Meta, Google y OpenAI han acordado un tratado de interoperabilidad a través de una etiqueta de marca de agua unificada invisible, que utilizarán para su aplicación de imágenes automatizadas por IA. Sin embargo, al abordar este desafío, ciertas preguntas sobre la efectividad de tales soluciones, especialmente las referidas al código de código abierto, que puede no depender de dichas políticas, deben permanecer hasta este momento.

Los casos recientes de deepfakes generados por IA, que resultaron ser genuinos, alimentarán los miedos sociales sobre el contenido falso. El servicio de Meta tiene como objetivo resolver esto etiquetando el contenido falso y sirviendo a los usuarios solo la información que realmente necesitan sobre la integridad del contenido con el que interactúan en su sitio.

Este reciente desarrollo, en el que el gigante de las redes sociales Facebook delineó que ahora etiquetará los medios generados por IA tanto en Facebook como en Instagram, simplemente puede presentarse como un paso de prevención hacia el miedo instilado por los deepfakes y la desinformación. La idea es limpiar todos los escombros con este enfoque, neutralizando todos los peligros que resultan del uso de material desvinculado y defendiendo los principios de libertad de expresión. Estos han sido notablemente exitosos en la mitigación de los desafíos inducidos por la IA, aunque el problema continúa siendo abrumador, dado el rápido ritmo al que se desarrolla la IA y la naturaleza mutable de las noticias falsas.