Deepfake-teknologin, som använder generativa AI -plattformar som Midjourney 5.1 och OpenAI:s DALL-E 2, har visat anmärkningsvärda möjligheter att producera verklighetstrogna bilder och videor. USA:s federala utredningsbyrå (FBI) har dock nyligen utfärdat en varning, som säger att brottslingar utnyttjar deepfakes för att rikta offren för utpressning.
FBI varnar allmänheten för utpressningsbluffen
Enligt FBI har den tagit emot rapporter från offer, inklusive minderåriga och icke-samtyckande vuxna, vars foton eller videor manipulerades för att skapa explicit innehåll. I ett public service-meddelande (PSA) som släpptes på måndagen, lyfte byrån fram den växande förekomsten av utpressningsfall online, särskilt de som involverar "sextortion bedrägerier" som använder deepfakes. Brottsbekämpande myndigheter fick över 7 000 anmälningar bara under föregående år angående onlineutpressning riktad mot minderåriga, med en ökning av dent relaterade till deepfakes sedan april.
Deepfakes är tillverkat ljud- eller videoinnehåll som genereras genom artificiell intelligens, vilket ofta gör det svårt att urskilja materialets autenticitet. Framväxten av plattformar som Midjourney 5.1 och OpenAI:s DALL-E 2 har bidragit till sofistikeringen och tillgängligheten av deepfake-teknik. Tyvärr har detta också gjort det möjligt för illvilliga aktörer att utnyttja tekniken för otillåtna ändamål.
Byrån lyfter fram risker förknippade med att använda tekniken
FBI:s varning kommer i kölvattnet av flera dent som belyser de potentiella farorna med deepfakes. Till exempel cirkulerades en djupt falsk video med Tesla och Twitters vd Elon Musk för att lura investerare i kryptovaluta. Den manipulerade videon använde bilder från Musks tidigare intervjuer, skickligt redigerade för att passa bedrägeriets berättelse.
Det är viktigt att notera att inte alla deepfakes är skadliga. Vissa deepfakes har fått uppmärksamhet för sina humoristiska eller kreativa inslag, till exempel en viral video som visar påven Franciskus iklädd en vit Balenciaga-jacka. Dessutom har AI-genererade deepfakes använts för att digitalt återskapa avlidna individer, i syfte att återuppliva dem i olika sammanhang.
Som svar på dessa hot har FBI gett rekommendationer för att skydda sig mot djupförfalskningsrelaterad utpressning. De avråder från att betala någon lösensumma, eftersom det inte garanterar att brottslingarna kommer att avstå från att publicera det djupt falska innehållet. Byrån betonar också vikten av att vara försiktig när man delar personlig information och innehåll online, och föreslår användning av sekretessfunktioner för att begränsa åtkomsten till konton. Att övervaka barns onlineaktiviteter, vara vaksam på ovanligt beteende från tidigare bekanta och att göra frekventa sökningar efter personlig information och information om familjemedlemmar online är ytterligare åtgärder som rekommenderas av FBI.
