Meta para etiquetar medios generados por IA en Facebook e Instagram

Meta, la empresa matriz de Facebook e Instagram, anunció que dejará de aplicar sus etiquetas manuales a los medios sintéticos producidos a partir de mayo. Estas regulaciones pueden aliviar la carga de los ataques comunes de deepfake y desinformación contra sus medios.

Abordar las preocupaciones sobre la desinformación

Se espera que Meta tome nuevas medidas para mitigar la difusión de contenido sintético en respuesta a las crecientes críticas y al rápido desarrollo de las tecnologías de IA. A partir de mayo de 2024, la compañía introducirá la etiqueta "Hecho con IA" para indicar cuándo se han creado o modificado textos, imágenes, audio y vídeos mediante inteligencia artificial.

La decisión de Meta de etiquetar el material producido por IA forma parte de una amplia campaña de la compañía para ofrecer a los usuarios mayor información y, en consecuencia, mayor transparencia. Esto significa que Facebook no podrá eliminar contenido falsificado, pero sí podrá etiquetarlo para contextualizarlo. Al fin y al cabo, eso es lo que Mark Zuckerberg, director ejecutivo de Meta, ha anunciado que hará la compañía: lanzar una iniciativa educativa sobre los daños de los medios manipulados. Así lo afirma una investigación de la junta de supervisión encargada por Facebook.

Sin embargo, existía la preocupación de que las aplicaciones basadas en IA en campañas de noticias falsas pudieran utilizarse para interferir en el proceso electoral. En segundo lugar, la junta expresó la urgencia y enfatizó la imperiosa necesidad de contramedidas efectivas, especialmente durante el período electoral en cualquier país.

Planificación de la implementación y modificaciones de políticas

Los medios manipulados que se eliminaron antes de la política se reactivarán posteriormente y estarán disponibles para los consumidores en las páginas de noticias de Facebook. El contenido manipulado por IA bajo la nueva norma solo se eliminará si infringe otras normas de la plataforma, como las que prohíben el discurso de odio o la interferencia electoral.

Meta, uno de los muchos acuerdos que abordan el contenido manipulado, se centra en la cooperación con otros gigantes tecnológicos y desarrolladores de IA. Meta, Google y OpenAI han acordado un tratado de interoperabilidad mediante una etiqueta de marca de agua unificada invisible, que utilizarán para su aplicación de imágenes automatizadas con IA. Sin embargo, al abordar este desafío, ciertas cuestiones sobre la eficacia de estas soluciones, especialmente las relacionadas con el código abierto, que podrían no depender de dichas políticas, aún permanecen en el aire.

Los recientes casos de deepfakes generados por IA, que han resultado ser auténticos, avivarán el temor social al contenido falso. El servicio Meta busca resolver esto etiquetando el contenido falso y ofreciendo a los usuarios únicamente la información que realmente necesitan sobre la integridad del contenido con el que interactúan en su sitio.

Este reciente desarrollo, que el gigante de las redes sociales Facebook ha anunciado que etiquetará los medios generados por IA tanto en Facebook como en Instagram, puede presentarse simplemente como una medida preventiva contra el miedo que infunden las deepfakes y la desinformación. La idea es eliminar todos los residuos con este enfoque, neutralizando todos los peligros derivados del uso de material deslocalizado y defendiendo los principios de la libertad de expresión. Estas medidas han tenido un éxito notable en la mitigación de los desafíos inducidos por la IA, a pesar de que el problema sigue siendo abrumador, dado el rápido desarrollo de la IA y la naturaleza cambiante de las noticias falsas.