El popular YouTuber y filántropo MrBeast se enfrentó recientemente a TikTok de ByteDance Ltd. por permitir que un video deepfake circulara en su plataforma. El video presentaba una personificación de MrBeast generada por inteligencia artificial que anunciaba un sorteo masivo de 10,000 iPhone 15 Pro por solo $ 2 cada uno. Este incidente dent de relieve la creciente preocupación en torno a los deepfakes de IA en las plataformas de redes sociales y su potencial para engañar a los usuarios. En este artículo profundizamos en los detalles de esta controversia y sus implicaciones para la autenticidad del contenido online.
La estafa deepfake
TikTok, una destacada plataforma de redes sociales, publicó un anuncio que mostraba una versión deepfake de MrBeast generada por IA. En el vídeo, el impostor afirmaba estar organizando el “obsequio de iPhone 15 más grande del mundo” y cada iPhone tenía un precio de sólo 2 dólares. Esta audaz oferta, naturalmente, trac una atención significativa, particularmente dada la reputación de MrBeast de organizar sorteos y concursos.
La respuesta de MrBeast
Al descubrir el vídeo deepfake, MrBeast recurrió a las redes sociales para expresar sus preocupaciones. Señaló que “mucha gente está recibiendo este anuncio fraudulento mío” y cuestionó si las plataformas de redes sociales estaban adecuadamente preparadas para combatir el aumento de los deepfakes de IA. Su declaración pública sumó su voz al coro de celebridades que han sido víctimas de suplantaciones de identidad falsas que circulan en las redes sociales.
Desenmascarando el deepfake
Aunque el anuncio deepfake presentaba el logotipo oficial de MrBeast y una marca de verificación azul, los espectadores astutos pudieron discernir signos de manipulación de la IA. Los observadores notaron voces distorsionadas y movimientos de la boca antinaturales, ambos característicos del contenido generado por IA. A pesar de esto, el video logró ganar trac , lo que demuestra la efectividad de este tipo de estafas, particularmente entre los usuarios menos exigentes.
La respuesta de TikTok
En respuesta a la controversia, un portavoz de TikTok confirmó que el anuncio fraudulento se eliminó rápidamente unas horas después de su publicación, y que la cuenta asociada responsable del deepfake fue eliminada debido a violaciones de la política. TikTok también ha tomado medidas para combatir la proliferación de contenido generado por IA introduciendo herramientas para que los creadores etiqueten dicho contenido y probando mecanismos de etiquetado matic .
Una tendencia en los deepfakes de famosos
MrBeast no es la única celebridad que ha sido objeto de suplantaciones de identidad deepfake. Recientemente, el actor Tom Hanks emitió un comunicado en Instagram denunciando una versión deepfake de sí mismo promocionando un plan dent . Aclaró que él “no tuvo nada que ver”. De manera similar, la hija de Robin Williams, Zelda, expresó su incomodidad con las recreaciones de la voz de su padre por parte de la IA, refiriéndose a ellas como “personalmente perturbadoras” y “horrendos monstruos frankensteinianos”.
El actor británico Stephen Fry también ha sido víctima del mal uso de la IA, y su voz se ha utilizado sin permiso para contenido relacionado con los libros de Harry Potter. Estos dent ponen de relieve el ritmo cada vez mayor de los deepfakes en la era de la tecnología avanzada de inteligencia artificial.
El desafío de detectar deepfakes
Si bien los gigantes tecnológicos como Google están trabajando en soluciones como SynthID para detectar imágenes generadas por IA, abordar el audio y el video deepfake sigue siendo un desafío complejo. Detectar la manipulación de la IA en tiempo real es una tarea formidable y pasará tiempo antes de que estén disponibles soluciones integrales. Mientras tanto, se insta a los usuarios a tener precaución, emplear el sentido común y verificar el contenido que parezca sospechoso.
La controversia sobre los deepfakes de MrBeast sirve como un claro recordatorio de los riesgos que plantean los deepfakes de IA en el ámbito de las redes sociales. Destaca la necesidad de que plataformas como TikTok permanezcan alerta para prevenir la difusión de contenido engañoso. Además, subraya la urgencia de avances tecnológicos para combatir la proliferación de suplantaciones de celebridades y figuras públicas generadas por IA. Hasta que se implementen soluciones integrales, los usuarios en línea deben permanecer atentos y críticos para protegerse contra ser víctimas de este tipo de estafas.
