- Los rumores sugieren que el presidente ruso Putin podría utilizar dobles corporales mejorados con IA para apariciones públicas, pero la evidencia es escasa y el Kremlin lo niega.
- La tecnología de marca de agua tiene dificultades para autenticar contenido digital frente a los deepfakes generados por IA en constante evolución, lo que genera dudas sobre su eficacia.
- A medida que la tecnología deepfake avanza, la creación y detección de falsificaciones forman parte de una carrera armamentista continua con graves implicaciones para la seguridad personal y pública.
En un desarrollo que añade una nueva dimensión al subterfugio político, las acusaciones han resurgido alegando que el presidente ruso Vladimir Putin podría estar utilizando dobles en las apariciones públicas, aún más mejoradas por tecnologías de IA generativa. Esta afirmación, aunque carece de pruebas concretas y ha sido refutada por funcionarios rusos, subraya las capacidades sofisticadas de la IA moderna para crear deepfakes convincentes, presentando un desafío intrincado para la verificación de la autenticidad.
El auge de la imitación asistida por IA
Los investigadores japoneses han arrojado nuevas dudas sobre la autenticidad de las apariciones públicas de Putin, presentando un análisis que sugiere la existencia de varios dobles que se hacen pasar por el líder ruso. Aunque el Kremlin desestima estas sugerencias, la conversación más amplia se centra en los fundamentos tecnológicos que permiten tales engaños de deepfakes de IA.
La tecnología deepfake ha avanzado hasta el punto de que no es solo una herramienta para el entretenimiento inofensivo, sino que también se ha convertido en un medio poderoso para la posible manipulación política. OpenAI se ha posicionado a la vanguardia de este problema, informando de una tasa de éxito del 99% en la detección de estas fabricaciones. A pesar de estos avances, los expertos advierten que el proceso de identificación sigue siendo complejo y se prevé que se vuelva aún más complejo a medida que evoluciona la tecnología de IA.
Marcas de agua frente a deepfakes: La insuficiencia de las salvaguardas actuales
La medida tradicional de seguridad digital de las marcas de agua, como la expuesta por empresas como Digimarc y la plataforma de IA Vertix de Google, está resultando ser una solución menos que a prueba de balas contra la marea de contenido generado por IA. Invisibles al ojo desnudo y diseñadas para preservar la calidad de la imagen, las marcas de agua están destinadas a significar autenticidad. Sin embargo, la eficacia de las marcas de agua está en cuestión, ya que los motores de IA generativa responsables de los deepfakes pueden no adoptar universalmente esta característica de seguridad.
Además, la naturaleza de código abierto de muchas plataformas de IA plantea un obstáculo significativo para salvaguardar el contenido digital. La facilidad con la que estas plataformas pueden ser accedidas, alteradas y distribuidas significa que cualquier característica de seguridad podría ser fácilmente eludida por aquellos con el conocimiento y la intención de hacerlo.
Una carrera armamentista continua en la tecnología de IA
A medida que las herramientas de detección mejoran, también lo hacen las técnicas para crear deepfakes, involucrando a las empresas tecnológicas y a los expertos en ciberseguridad en un juego implacable de gato y ratón. Si bien los modelos de IA más grandes y controlados muestran promesa para prevenir la creación y propagación de contenido ilícito, los expertos reconocen la necesidad de una vigilancia continua y el avance en las metodologías de detección.
El aumento del material de abuso sexual infantil generado por deepfakes (CSAM) es particularmente alarmante, con modelos de IA de código abierto que ayudan en la difusión de dicho contenido. La Fundación de la Internet del Reino Unido (Internet Watch Foundation) señala la dificultad para distinguir estas imágenes generadas por IA de fotografías reales, complicando el trabajo de las fuerzas del orden y los grupos de seguridad en internet.
Implicaciones y perspectivas futuras
A medida que el mundo lidia con las implicaciones de la tecnología deepfake, el discurso ha alcanzado plataformas globales, con organizaciones como las Naciones Unidas destacando el potencial del contenido generado por IA para alimentar el odio y difundir desinformación. Mientras tanto, el panorama legal está cambiando, evidenciado por demandas de alto perfil de celebridades que buscan proteger sus imágenes del uso no autorizado generado por IA.
Con las apuestas de la carrera armamentista de la IA en aumento, el potencial de la tecnología para dañar o sanar permanece en el equilibrio. A medida que las líneas entre lo real y lo sintético continúan difuminándose, la llamada para un uso responsable de la IA nunca ha sido más urgente, y el diálogo sobre este tema es más pertinente. La búsqueda de una solución que pueda superar el avance de la tecnología engañosa continúa motivando a innovadores y partes interesadas por igual, con el objetivo de preservar la integridad del contenido digital en un mundo cada vez más virtual.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Brenda Kanana
Brenda cuenta con más de 4 años de experiencia especializada en criptomonedas, inteligencia artificial y tecnologías emergentes. Ha trabajado en Zycrypto, Blockchain Reporter y The Coin Republic, y ahora tiene a Cryptopolitan como su hogar. Su licenciatura en Sociología de la Universidad Técnica de Mombasa la mantiene alineada con las necesidades de sus lectores.
