منصات الذكاء الاصطناعي التوليدية مثل Midjourney 5.1 وDALL-E 2 من OpenAI، قدرات رائعة في إنتاج صور ومقاطع فيديو نابضة بالحياة. ومع ذلك، أصدر مكتب التحقيقات الفيدرالي الأمريكي (FBI) مؤخرًا تحذيرًا، يفيد بأن المجرمين يستغلون تقنية التزييف العميق لاستهداف الضحايا للابتزاز.
مكتب التحقيقات الفيدرالي يحذر الجمهور من عملية احتيال الابتزاز
وفقًا لمكتب التحقيقات الفيدرالي، فقد تلقى تقارير من الضحايا، بما في ذلك القُصّر والبالغين غير الموافقين، الذين تم التلاعب بصورهم أو مقاطع الفيديو الخاصة بهم لإنشاء محتوى فاضح. في تنبيه إعلان الخدمة العامة (PSA) الذي صدر يوم الاثنين، سلطت الوكالة الضوء على الانتشار المتزايد لحالات الابتزاز عبر الإنترنت، لا سيما تلك التي تنطوي على "عمليات احتيال جنسية" تستخدم التزييف العميق. تلقت وكالات إنفاذ القانون أكثر من 7000 تقرير في العام السابق وحده فيما يتعلق بالابتزاز عبر الإنترنت الذي يستهدف القاصرين، مع زيادة في dent المتعلقة بالتزييف العميق منذ أبريل.
Deepfakes عبارة عن محتوى صوتي أو فيديو ملفق تم إنشاؤه من خلال الذكاء الاصطناعي، مما يجعل من الصعب في كثير من الأحيان تمييز صحة المادة. ساهم ظهور منصات مثل Midjourney 5.1 وDALL-E 2 من OpenAI في تطور تكنولوجيا التزييف العميق وإمكانية الوصول إليها. ولسوء الحظ، فقد مكّن هذا أيضًا الجهات الفاعلة الخبيثة من استغلال التكنولوجيا لأغراض غير مشروعة.
تسلط الوكالة الضوء على المخاطر المرتبطة باستخدام التكنولوجيا
ويأتي تحذير مكتب التحقيقات الفيدرالي في أعقاب العديد من dent التي تسلط الضوء على المخاطر المحتملة للتزييف العميق. على سبيل المثال، تم تداول مقطع فيديو مزيف عميق يظهر الرئيس التنفيذي لشركة Tesla وTwitter Elon Musk على نطاق واسع لخداع مستثمري العملات المشفرة. استخدم الفيديو الذي تم التلاعب به لقطات من مقابلات " ماسك " السابقة، وتم تحريرها بذكاء لتناسب رواية عملية الاحتيال.
ومن الضروري أن نلاحظ أنه ليست كل التزييفات العميقة ضارة. وقد اكتسبت بعض التزييفات العميقة الاهتمام بسبب عناصرها الفكاهية أو الإبداعية، مثل مقطع فيديو يصور البابا فرانسيس وهو يرتدي سترة بيضاء من ماركة Balenciaga. بالإضافة إلى ذلك، تم استخدام تقنية التزييف العميق التي أنشأها الذكاء الاصطناعي لإعادة إنشاء الأفراد المتوفين رقميًا، بهدف إعادتهم إلى الحياة في سياقات مختلفة.
ردًا على هذه التهديدات، قدم مكتب التحقيقات الفيدرالي توصيات للحماية من الابتزاز المرتبط بالتزييف العميق. وينصحون بعدم دفع أي فدية، لأن ذلك لا يضمن امتناع المجرمين عن نشر المحتوى المزيف العميق. وتؤكد الوكالة أيضًا على أهمية توخي الحذر عند مشاركة المعلومات الشخصية والمحتوى عبر الإنترنت، وتقترح استخدام ميزات الخصوصية للحد من الوصول إلى الحسابات. إن مراقبة أنشطة الأطفال عبر الإنترنت، واليقظة تجاه السلوك غير المعتاد من المعارف السابقة، وإجراء عمليات بحث متكررة عن المعلومات الشخصية ومعلومات أفراد الأسرة عبر الإنترنت هي إجراءات أخرى أوصى بها مكتب التحقيقات الفيدرالي.