Meta implementará etiquetado de contenido con IA en mayo en respuesta a las preocupaciones sobre deepfakes

Para disipar las preocupaciones de usuarios y gobiernos sobre los deepfakes, Meta, el gigante de Facebook e Instagram, anunció el viernes que comenzará a etiquetar contenido con IA en mayo. El gigante de las redes sociales declaró además que, para respetar el derecho a la libertad de expresión, ya no eliminará fotos ni sonidos alterados que no infrinjan sus políticas y, en su lugar, se basará en la terminología y el contexto. La corporación declaró que incluirá la etiqueta "Hecho con IA". Las publicaciones de Facebook, Threads e Instagram están sujetas a esta política.

Meta ha anunciado que comenzará a clasificar más contenido de audio, vídeo e imagen como generado por inteligencia artificial (IA), admitiendo que su política actual es demasiado restrictiva. Aunque la empresa no detalló su método de detección, las etiquetas se aplicarán cuando los usuarios confiesen usar herramientas de IA o cuando Meta reconozca el contenido con sus indicadores de imagen de IA, estándar en la industria.

Meta responde a las críticas de la junta de supervisión

Las modificaciones fueron motivadas por las críticas de la junta de supervisión de Meta, un panel de evaluacióndent para el gigante de internet que modifica material. Con los enormes avances en inteligencia artificial y la facilidad con la que se pueden manipular los medios para crear deepfakes altamente convincentes, la junta solicitó a Meta en febrero..

Reevaluar rápidamente su estrategia para manipular los medios. En medio de un año electoral crucial, tanto a nivel local como global, la junta emitió su advertencia ante la preocupación por el creciente uso indebido de aplicaciones basadas en IA para desinformar en las plataformas.

Monika Bickert,dent de política de contenido, dijo:

“Estamos de acuerdo con el argumento de la Junta de Supervisión de que nuestro enfoque actual es demasiado limitado, ya que solo cubre los videos creados o alterados por IA para que parezca que una persona dice algo que no dijo”

Fuente: Meta

En respuesta a las recomendaciones de la junta de supervisión, Meta optó por cambiar su enfoque hacia los medios manipulados. En lugar de una eliminación total, la empresa ahora se basará en el etiquetado y la contextualización para brindar transparencia sobre el origen y la autenticidad del contenido. Como afirma Meta, esto se debe a su compromiso con la libertad de expresión y a la protección contra los daños que representan los medios engañosos.

Implementación de etiquetado de contenido con IA

El proyecto de etiquetado de Meta se implementará en dos fases, la primera de las cuales comenzará en mayo de 2024. El contenido generado por IA—que incluye diversos formatos multimedia como audio, vídeo e imágenes— será reconocido y categorizado adecuadamente durante esta fase. Para alertar a los usuarios sobre la posibilidad de manipulación, el contenido que se considere de alto riesgo de engañar al público también se etiquetará de forma más destacada.

La eliminación de contenido multimedia alterado, basándose únicamente en la política anterior, se suspenderá como parte de la segunda fase de implementación de Meta, que comenzará en julio. A menos que el contenido manipulado por IA infrinja otras Normas Comunitarias, como las que prohíben la incitación al odio o interfieren en las elecciones, seguirá siendo accesible en la plataforma bajo la nueva norma. Meta se compromete a lograr un equilibrio entre la preservación de la integridad de sus plataformas y la libertad de expresión, y este método representa ese compromiso.

Bickert añadió: 

“Las etiquetas cubrirán una gama más amplia de contenido, además del contenido manipulado que la Junta de Supervisión recomendó etiquetar” 

Fuente: Meta Inc.

Independientemente de si se creó con herramientas de IA o no, el contenido que infrinja otras pautas (como las relacionadas con el acoso, la intromisión en las elecciones y el hostigamiento) se eliminará de todos modos.

Los principales gigantes digitales y las empresas de IA llegaron a un acuerdo en febrero para combatir el contenido manipulado que busca engañar a los votantes, lo cual está relacionado con estos nuevos enfoques de etiquetado. Meta, Google y OpenAI ya acordaron un estándar único de marca de agua para las fotos generadas por aplicaciones de IA.