plataformas de IA generativa como Midjourney 5.1 y DALL-E 2 de OpenAI, ha demostrado capacidades notables en la producción de imágenes y videos realistas. Sin embargo, la Oficina Federal de Investigaciones (FBI) de EE. UU. ha emitido recientemente una advertencia en la que afirma que los delincuentes están explotando las falsificaciones profundas para extorsionar a las víctimas.
FBI advierte al público sobre la estafa de extorsión
Según el FBI, ha recibido informes de víctimas, incluidos menores y adultos que no dieron su consentimiento, cuyas fotos o videos fueron manipulados para crear contenido explícito. En una alerta de anuncio de servicio público (PSA) publicada el lunes, la agencia destacó la creciente prevalencia de casos de extorsión en línea, particularmente aquellos que involucran "estafas de sextorsión" que emplean falsificaciones profundas. Los organismos encargados de hacer cumplir la ley recibieron más de 7000 informes solo el año anterior sobre extorsión en línea dirigida a menores, con un aumento en dent relacionados con falsificaciones profundas desde abril.
Los deepfakes son contenido de audio o video inventado generado a través de inteligencia artificial, lo que a menudo dificulta discernir la autenticidad del material. El surgimiento de plataformas como Midjourney 5.1 y DALL-E 2 de OpenAI ha contribuido a la sofisticación y accesibilidad de la tecnología deepfake. Desafortunadamente, esto también ha permitido que los actores malintencionados exploten la tecnología con fines ilícitos.
La agencia destaca los riesgos asociados con el uso de la tecnología.
La advertencia del FBI surge luego de varios dent que resaltan los peligros potenciales de las falsificaciones profundas. Por ejemplo, un video falso con Tesla y el CEO de Twitter, Elon Musk, circuló ampliamente para engañar a los inversores en criptomonedas. El video manipulado utilizó imágenes de entrevistas anteriores de Musk, hábilmente editadas para adaptarse a la narrativa de la estafa.
Es esencial tener en cuenta que no todos los deepfakes son maliciosos. Algunos deepfakes han llamado la atención por sus elementos humorísticos o creativos, como un video que muestra al Papa Francisco con una chaqueta blanca de Balenciaga. Además, se han empleado deepfakes generados por IA para recrear digitalmente a personas fallecidas, con el objetivo de devolverles la vida en varios contextos.
En respuesta a estas amenazas, el FBI ha proporcionado recomendaciones para protegerse contra la extorsión relacionada con deepfake. Aconsejan no pagar ningún rescate, ya que no garantiza que los delincuentes se abstengan de publicar el contenido falso. La agencia también enfatiza la importancia de tener cuidado al compartir información personal y contenido en línea, y sugiere el uso de funciones de privacidad para limitar el acceso a las cuentas. Monitorear las actividades en línea de los niños, estar atento a comportamientos inusuales de conocidos anteriores y realizar búsquedas frecuentes en línea de información personal y de miembros de la familia son otras medidas recomendadas por el FBI.
