ظهرت عملية احتيال جديدة متعلقة بالذكاء الاصطناعي، تضم آلاف المؤثرين الذين تم إنشاؤهم بواسطة الذكاء الاصطناعي والذين غمروا مواقع التواصل الاجتماعي مثل إنستغرام باستخدام صور مسروقة لأشخاص حقيقيين.
تتضمن عملية الاحتيال سرقة مقاطع فيديو من عارضات أزياء حقيقيات ومنشئي محتوى للبالغين، ومنحهن وجوهاً مولدة بالذكاء الاصطناعي، وتحقيق الربح من أجسادهن من خلال روابط لمواقع المواعدة مثل باتريون، ومسابقات أونلي فانز، وتطبيقات الذكاء الاصطناعي المختلفة.
يتنافس المؤثرون الذين تم إنشاؤهم بواسطة الذكاء الاصطناعي مع البشر على إنستغرام
في أبريل، كانت 404 Media أول من نشر تقريرًا عن هذه الممارسة، حين ظهرت للعلن. وقد تحولت هذه الممارسة الآن إلى ظاهرة شائعة، ما دفع الكثيرين إلى الاعتقاد بأن منصة التواصل الاجتماعي التي تديرها شركة ميتا إما عاجزة أو غير راغبة في وقف هذه الظاهرة على منصتها.
يأتي هذا في الوقت الذي يقول فيه منشئو المحتوى البشري على إنستغرام إنهم يتنافسون الآن مع محتوى الذكاء الاصطناعي بطريقة تؤثر على استمراريتهم.
بفضل بعض أدوات وتطبيقات الذكاء الاصطناعي الجاهزة المتوفرة على متجري تطبيقات أبل وجوجل بلاي، أصبح بإمكان المؤثرين في مجال الذكاء الاصطناعي إنشاء حساباتهم وتحقيق الربح منها بسهولة. ووفقًا لمجلة Wired، فقد راجعت أكثر من ألف حساب على إنستغرام تم إنشاؤها بواسطة الذكاء الاصطناعي، بالإضافة إلى قنوات ديسكورد حيث يتبادل منشئو هذا المحتوى النصائح ويناقشون الاستراتيجيات، فضلًا عن العديد من الأدلة التي تشرح كيفية الربح من خلال "التسويق بالذكاء الاصطناعي".
مجلة Wired أن المشكلة، التي كانت في السابق طفيفة على Instagram، قد نمت لتصبح ممارسة ضخمة تتماشى مع العديد من التوقعات حول المشهد المستقبلي لوسائل التواصل الاجتماعي، حيث يتفوق المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي على المحتوى الذي ينتجه البشر.
يشعر منشئو المحتوى المخصص للبالغين الذين يروجون لأعمالهم على إنستغرام بالقلق الآن من المنافسة المباشرة مع حسابات التقليد هذه التي تعمل بالذكاء الاصطناعي، والتي يستخدم العديد منها صورًا ومقاطع فيديو مسروقة من منشئي المحتوى المخصص للبالغين وعارضات إنستغرام.
إيلينا سانت جيمس، وهي صانعة محتوى للبالغين، إنه على الرغم من وجود تغييرات أخرى محتملة في خوارزمية إنستغرام قد تكون ساهمت في هذا الانخفاض، إلا أنه منذ الانتشار الكبير لحسابات المؤثرين المُنشأة بواسطة الذكاء الاصطناعي على إنستغرام، انخفض وصول فيديوهاتها بشكل كبير، من مليون إلى خمسة ملايين مشاهدة شهريًا. ولم تتجاوز مليون مشاهدة خلال الأشهر العشرة الماضية، بل إنها أحيانًا لا تتجاوز 500 ألف مشاهدة.
"ربما يكون هذا أحد أسباب انخفاض نسب المشاهدة لدي. ذلك لأني أنافس شيئاً غير طبيعي." سانت جيمس.
أليكسيوس مانتزارليس، مدير مبادرة الأمن والثقة والسلامة في كورنيل تك، والذي كان سابقًا رئيسًا لقسم استخبارات الثقة والسلامة في جوجل، بتجميع قائمة تضم حوالي 900 حساب في بحث 404 Media.
وقال مانتزارليس إن هذا ليس بالأمر الجديد أو المفاجئ تماماً، حيث كان هذا مجرد تحقيق للتوقعات التي تم التوصل إليها سابقاً بشأن تكنولوجيا الذكاء الاصطناعي واعتمادها على منصات التواصل الاجتماعي.
قال مانتزارليس: "لقد بدا الأمر وكأنه علامة محتملة لما ستبدو عليه وسائل التواصل الاجتماعي في غضون خمس سنوات".
"لأن هذا قد ينتشر إلى أجزاء أخرى من الإنترنت، وليس فقط إلىtracالأشخاص الجذابين على إنستغرام. ربما تكون هذه علامة على أن الوضع سيكون سيئاً للغاية."
مانتزارليس.
من بين أكثر من 1000 حساب مؤثر على انستغرام تم إنشاؤها بواسطة الذكاء الاصطناعي، احتوى 100 حساب على الأقل على محتوى مزيف بتقنية التزييف العميق، حيث تم أخذ مقاطع فيديو موجودة، عادة من عارضات أزياء وفنانات ترفيه للبالغين، واستبدال وجوههن بوجوه تم إنشاؤها بواسطة الذكاء الاصطناعي لإضفاء مظهر جديد على مقاطع الفيديو.
ستظهر مقاطع الفيديو كمحتوى جديد وأصلي، متسق مع الصور ومقاطع الفيديو الأخرى التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي يشاركها المؤثر الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.
سيتخذ إنستغرام الإجراءات اللازمة عند تلقي الشكاوى
منصة إنستغرام أنها لن تتخذ أي إجراء ضد الحسابات إلا إذا تم الإبلاغ عنها من قبل مالكها الحقيقي أو شخص مخوّل بالإبلاغ نيابةً عنه. مع ذلك، يقول العديد من المؤثرين الحقيقيين إن القناة المُقدّمة لا تعمل بشكل صحيح، إذ يضطرون لمتابعة عدد كبير من حسابات منتحلي الشخصيات.
وأضاف سانت جيمس أن حقيقة أن العديد من حسابات المؤثرين هذه التي تم إنشاؤها بواسطة الذكاء الاصطناعي يتم تشغيلها من قبلي تزيد الطين بلة.
"نحن كنساء في العالم نكسب أموالاً أقل. نحن في وضع غير مواتٍ من نواحٍ عديدة. أحد المجالات التي نتمتع فيها بميزة هو مجال المؤثرين وعارضات الأزياء، لذا فهو مجرد طبقة إضافية"، قالت سانت جيمس.
وأضافت: "يجعلني هذا الأمر أشعر بشيء من الاستياء لأن رجلاً هو من يكسب المال متظاهراً بأنه امرأة".
شركة آبل، التي فشلت حتى الآن في حل مشكلة "الاستخدام المزدوج" لتطبيقات تبديل الوجوه التي يمكن استخدامها بشكل بريء ولكنها تستخدم في كثير من الأحيان لإنشاء محتوى غير توافقي، بإزالة التطبيق من متجر التطبيقات بعد استجوابها بشأن هذه المشكلة.
