Los gigantes tecnológicos se unen para abordar la amenaza de los deepfakes con Credenciales de Contenido

En todo el mundo, los deepfakes han recibido mucha atención. A medida que han surgido muchas empresas internacionales que utilizan deepfakes generados por IA, hay un acuerdo general sobre el enfoque general de este problema. A principios de este año, Google en C2PA se convirtió en un comité directivo junto con otros como OpenAI, Adobe, Microsoft, AWS y los miembros de la RIAA. Debido a las preocupaciones sobre la desinformación de IA y deepfakes, el personal de TI querrá adoptar el trabajo de esta agencia, haciendo referencias específicas a las credenciales de contenido.

Credenciales de contenido: El nuevo estándar

La industria está a punto de regular un área específica de gestión de datos visuales y de video en general, por lo que el equipo de TI será particular al respecto. Las Credenciales de Contenido son una forma de metadatos digitales que los creadores o titulares de contenido pueden utilizar para obtener los créditos adecuados e introducir la honestidad en un ecosistema. Estos metadatos irreversibles consisten en el nombre y los detalles del artista y están inscritos directamente en el contenido cuando se exporta o descarga.

Las etiquetas de contenido creadas bajo las mismas reglas y permisos tienen grandes posibilidades de implementar un etiquetado estandarizado en un mundo completo y aceptante debido al peso de las empresas detrás de la idea. Las Credenciales de Contenido representan una oportunidad única por varias razones. Ayudará a fortalecer la credibilidad y la confiabilidad entre las audiencias ya que proporciona información muy necesaria sobre el autor o el proceso creativo. Esto desarrolla el ambiente de la sala que ayuda a combatir la desinformación y la información falsa. 

Adjunte cualquier detalle de contacto con su trabajo para fortalecer la identidad de los artistas para que los usuarios puedan rastrearlos y conectarse para el reconocimiento y la visibilidad. Además, habrá algunas medidas dirigidas al contenido de internet que no es real, como el contenido falso y hecho para engañar a las personas. La historia de Australia refleja el mayor pico de fraude con deepfakes, similar al del resto del mundo. Sumsub, en su tercer Informe de Fraude de Identidad, dijo que el número de deepfakes en Australia aumentó 15 veces en comparación con el año anterior y la sofisticación de los medios falsificados hacia una forma realista avanzó aún más.

Dado que el ojo humano apaga su guardia casi instantáneamente, los deepfakes se vuelven altamente persuasivos. La investigación indica que puede tomar tan solo 13 milisegundos para categorizar imágenes, mucho menos que la duración que permite a un humano procesar la información y autenticarla o rechazarla. El Comisionado de eSafety de Australia señala que el “desarrollo de innovaciones para ayudar a identificar deepfakes aún no va al ritmo de la tecnología”. Por su parte, el gobierno de Australia se ha comprometido a combatir los deepfakes.

Luchando contra los deepfakes en Australia

Los deepfakes presentan una amenaza muy real para la estabilidad y la seguridad de todos los australianos. Cualquier campaña de prevención de deepfakes a largo plazo debería centrarse en campañas de concienciación que ayuden a las personas a comprender cómo funcionan los deepfakes y las opciones disponibles para evitar caer presa de estos trucos.

Para que esta visión se haga realidad, tendrá que haber un consenso en toda la industria, con los principales interesados del lado de la oferta proporcionando la tecnología y teniendo el mayor impacto en la IA. Pero ahí es donde entran las Credenciales de Contenido. Si bien las credenciales de contenido son la mejor oportunidad para crear estándares que apaguen el problema de los deepfakes, los problemas de detección, regulación y castigo del mal uso permanecerán. Esto significa que la prevención no es de base no industrial ni está respaldada por las masas de líderes de campo en las industrias de los medios. Tales implementaciones pueden llegar a una gran parte de internet, y en tales momentos, la mayoría de los sitios web son instantáneamente tan conocedores como los sitios virales en el motor de búsqueda.

Las personas involucradas en TI y la IA que operan para la creación de contenido lo desearán. Deberían comprender las Credenciales de Contenido de la misma manera que los desarrolladores web han llegado al nivel de entrelazamiento con la seguridad, el SEO y cada estándar que existe para proteger el contenido de ser prohibido. Los pasos que deben tomar incluyen:

Implementar Credenciales de Contenido: En primer lugar, los expertos en TI deben asegurarse de que su empresa implemente e integre completamente las credenciales de contenido en los flujos de trabajo para mantener la autenticidad y la trazabilidad del contenido.

Abogar por la transparencia: La sugerencia interna y externamente con socios y clientes conduce a una defensa organizada para que las organizaciones sean transparentes sobre el uso de la IA y acepten prácticas éticas en la creación y distribución de contenido.

Apoyar la regulación: Considere los organismos de la industria y el gobierno para guiar la formación de la política y las regulaciones para contrarrestar los desafíos inducidos por los deepfakes. Esto no solo implicará participar en las muchas consultas públicas que el gobierno realizará sobre la IA, sino también ayudar a dar forma al trabajo de política.

Colaborar: Combine mayor experiencia con otros profesionales y organizaciones creando enfoques y herramientas compartidos y consistentes para identificar los riesgos de deepfakes.

Preparar estrategias de respuesta: Enfrente los desafíos planteados por los deepfakes y prepare sus planes cuando se detecte esta tecnología, como manejar daños y comunicaciones.

Aprovechar los recursos de la comunidad: La plataforma también debe utilizar recursos de comunidades de ciberseguridad como el Comisionado de eSafety para tener desarrollos recientes oportunos.

La formación de deepfakes es la tarea más desafiante para los expertos en tecnología de la información, quienes deben encontrar una solución aplicable. Las Credenciales de Contenido proporcionan una gran organización inicial para el mundo sobre la cual se puede construir el resto de la industria.