- Los estafas con deepfakes están apuntando a celebridades en TikTok, generando preocupaciones sobre la autenticidad del contenido.
- La confrontación de MrBeast resalta la necesidad de que las plataformas sociales combatan el engaño generado por IA.
- Detectar deepfakes de IA en tiempo real sigue siendo un desafío tecnológico.
El popular youtuber y filántropo MrBeast ha confrontado recientemente a ByteDance Ltd.’s TikTok por permitir que un video deepfake circulara en su plataforma. El video presentaba una impersonación generada por IA de MrBeast anunciando un sorteo masivo de 10.000 iPhone 15 Pros por solo 2 dólares cada uno. Este incidente destaca la creciente preocupación en torno a los deepfakes de IA en las plataformas de redes sociales y su potencial para engañar a los usuarios. En este artículo, profundizamos en los detalles de esta controversia y sus implicaciones para la autenticidad del contenido en línea.
La estafa deepfake
TikTok, una prominente plataforma de redes sociales, ejecutó un anuncio que mostraba una versión deepfake generada por IA de MrBeast. En el video, el impostor afirmaba estar organizando el «sorteo de iPhone 15 más grande del mundo» con cada iPhone a un precio de solo 2 dólares. Esta audaz oferta naturalmente atrajo una atención significativa, particularmente dada la reputación de MrBeast por organizar sorteos y concursos.
La respuesta de MrBeast
Al descubrir el video deepfake, MrBeast acudió a las redes sociales para expresar sus preocupaciones. Señaló que «Muchas personas están recibiendo este anuncio de estafa deepfake de mí» y cuestionó si las plataformas de redes sociales estaban adecuadamente preparadas para combatir el auge de los deepfakes de IA. Su declaración pública sumó su voz al coro de celebridades que han sido víctimas de impersonaciones deepfake que circulan en las redes sociales.
Desenmascarando el deepfake
Aunque el anuncio deepfake presentaba el logotipo oficial de MrBeast y una marca de verificación azul, los signos de manipulación de IA eran discernibles para los espectadores astutos. Los observadores notaron voces distorsionadas y movimientos de boca antinaturales, ambos característicos del contenido generado por IA. A pesar de esto, el video aún logró ganar tracción, demostrando la efectividad de este tipo de estafas, particularmente entre usuarios menos discernentes.
La respuesta de TikTok
En respuesta a la controversia, un portavoz de TikTok confirmó que el anuncio fraudulento fue eliminado rápidamente unas pocas horas después de su publicación, y la cuenta asociada responsable del deepfake fue eliminada debido a violaciones de políticas. TikTok también ha tomado medidas para combatir la proliferación de contenido generado por IA introduciendo herramientas para que los creadores etiqueten dicho contenido y probando mecanismos de etiquetado automático.
Una tendencia en deepfakes de celebridades
MrBeast no es la única celebridad que ha sido objetivo de impersonaciones deepfake. Recientemente, el actor Tom Hanks emitió una declaración en Instagram condenando una versión deepfake de sí mismo promocionando un plan dental. Aclaró que no tenía «nada que ver con eso». De manera similar, Zelda, hija de Robin Williams, expresó su incomodidad con las recreaciones de IA de la voz de su padre, refiriéndose a ellas como «monstruos Frankensteinianos personalmente perturbadores y horribles».
El actor británico Stephen Fry también ha sido víctima del mal uso de la IA, con su voz utilizada sin permiso para contenido relacionado con los libros de Harry Potter. Estos incidentes destacan el ritmo creciente de los deepfakes en la era de la tecnología de IA avanzada.
El desafío de detectar deepfakes
Mientras que gigantes tecnológicos como Google están trabajando en soluciones como SynthID para detectar imágenes generadas por IA, abordar el audio y video deepfake sigue siendo un desafío complejo. Detectar la manipulación de IA en tiempo real es una tarea formidable, y tomará tiempo antes de que estén disponibles soluciones integrales. Mientras tanto, se insta a los usuarios a ejercer precaución, emplear el sentido común y verificar los hechos del contenido que parezca sospechoso.
La controversia del deepfake de MrBeast sirve como un recordatorio nítido de los riesgos que plantean los deepfakes de IA en el ámbito de las redes sociales. Destaca la necesidad de que plataformas como TikTok permanezcan vigilantes para prevenir la difusión de contenido engañoso. Además, subraya la urgencia de avances tecnológicos para combatir la proliferación de impersonaciones de celebridades y figuras públicas generadas por IA. Hasta que se implementen soluciones integrales, los usuarios en línea deben permanecer vigilantes y críticos para protegerse contra caer víctimas de este tipo de estafas.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
John Palmer
John Murangiri llegó a Cryptopolitan con habilidades en análisis de mercado. John (también conocido como JP) se graduó de la Universidad de Nairobi con un título de licenciatura en comunicación masiva y estudios de medios. Anteriormente, ha contribuido con perspectivas del mercado de criptomonedas a InsideBitcoins.com y Metacoingraph.
