المؤثرون الذين تولدهم الذكاء الاصطناعي يغمران Instagram ومنصات أخرى بهويات مسروقة

ظهر احتيال جديد متعلق بالذكاء الاصطناعي يتضمن آلاف المؤثرين الذين تولدهم الذكاء الاصطناعي والذين غمروا المواقع الاجتماعية مثل Instagram باستخدام صور مسروقة لأشخاص حقيقيين.

يشمل الاحتيال سرقة مقاطع الفيديو من العارضات المحترفات وصانعات المحتوى للبالغين، وإعطائهن وجوهًا تولدها الذكاء الاصطناعي، واستغلال أجسادهن من خلال روابط إلى مواقع المواعدة مثل Patreon، ومنافسات OnlyFans، وتطبيقات الذكاء الاصطناعي المختلفة.

المؤثرون الذين تولدهم الذكاء الاصطناعي يتنافسون مع البشر على Instagram

في أبريل، أبلغت 404 Media عن هذه الممارسة لأول مرة عندما ظهرت لأول مرة. نمت الممارسة الآن لتصبح اتجاهًا شائعًا ترك الكثيرين يفترضون أن منصة التواصل الاجتماعي التي تديرها Meta إما غير قادرة أو غير راغبة في إيقاف هذا الاتجاه الظاهر على منصتها.

يأتي هذا بينما يقول صانعو المحتوى البشريون على Instagram إنهم يتنافسون الآن مع محتوى الذكاء الاصطناعي بطريقة تؤثر الآن على جدواهم.

مع بعض أدوات وتطبيقات الذكاء الاصطناعي الجاهزة المستضافة على متجر Apple App ومتجر Google Play، يمكن لمؤثري الذكاء الاصطناعي الآن بسهولة إنشاء حساباتهم واستغلالها. وفقًا لـ Wired، راجعوا أكثر من 1000 حساب Instagram تم إنشاؤها بواسطة الذكاء الاصطناعي وقنوات Discord حيث يشارك الأشخاص الذين يصنعون هذا المحتوى النصائح ويناقشون الاستراتيجيات، بالإضافة إلى عدة أدلة تشرح كيفية كسب المال من خلال "الاستغلال بالذكاء الاصطناعي".

وجدت Wired أن المشكلة، التي كانت طفيفة سابقًا على Instagram، نمت لتصبح ممارسة ضخمة تتماشى مع عدة توقعات حول مستقبل المشهد الاجتماعي، حيث يتفوق المحتوى الذي تولده الذكاء الاصطناعي على المحتوى البشري.

صانعو المحتوى للبالغين الذين يروجون لعملهم على Instagram قلقون الآن من التنافس المباشر مع هذه الحسابات المقلدة بالذكاء الاصطناعي، والتي تستخدم العديد منها صورًا ومقاطع فيديو مسروقة من صانعي المحتوى للبالغين وعارضات Instagram.

قالت Elaina St James، وهي صانعة محتوى للبالغين، إنه بينما قد تكون هناك تغييرات أخرى في خوارزمية Instagram التي ساهمت في ذلك، منذ انفجار حسابات المؤثرين الذين تولدهم الذكاء الاصطناعي على Instagram، انخفض "مدى وصولها بشكل كبير"، من عادة 1 مليون إلى 5 ملايين مشاهدة في الشهر. لم تحقق مليونًا في الأشهر العشرة الماضية، وأحيانًا تأتي بأقل من 500,000 مشاهدة.

"هذا ربما يكون أحد الأسباب التي تجعل مشاهداتي تنخفض. لأنني أتنافس مع شيء غير طبيعي." ست جيمس.

قام Alexios Mantzarlis، مدير مبادرة الأمان والثقة والسلامة في Cornell Tech ورائد سابق في ذكاء الثقة والسلامة في Google، بتجميع قائمة تضم حوالي 900 حساب في بحث 404 Media.

علامة على شكل وسائل التواصل الاجتماعي قريبًا

قال Mantzarlis إن هذا ليس شيئًا جديدًا تمامًا أو مفاجئًا، حيث كان مجرد تحقيق للتوقعات التي تم تقديمها سابقًا بشأن تقنية الذكاء الاصطناعي واعتمادها على منصات التواصل الاجتماعي.

"شعرت وكأنها علامة محتملة على شكل وسائل التواصل الاجتماعي في غضون خمس سنوات،" قال Mantzarlis.

"لأن هذا قد يأتي إلى أجزاء أخرى من الإنترنت، وليس فقط النخبة الجذابة من الناس على Instagram. هذا ربما يكون علامة على أنه سيكون سيئًا جدًا."

Mantzarlis.

من بين أكثر من 1000 حساب مؤثر على Instagram تم إنشاؤها بواسطة الذكاء الاصطناعي، تضمنت ما لا يقل عن 100 محتوى عميق مزيف (deepfake) أخذ مقاطع فيديو موجودة، عادة من العارضات وأداء الترفيه للبالغين، واستبدل وجوههم بوجه مولد بالذكاء الاصطناعي لمنح المقاطع مظهرًا جديدًا.

ستبدو المقاطع وكأنها محتوى جديد وأصلي يتماشى مع الصور ومقاطع الفيديو الأخرى التي تم إنشاؤها بواسطة الذكاء الاصطناعي والمشاركة من قبل المؤثر الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.

ستتصرف Instagram عند تلقي الشكاوى

قالت Instagram إنها ستتخذ إجراءات ضد الحسابات فقط إذا تم الإبلاغ عنها من قبل المالك الصحيح أو شخص مخول بالإبلاغ نيابة عنه. ومع ذلك، يقول العديد من المؤثرين البشريين إن القناة المقدمة لم تعمل كما هو متوقع لأن لديهم الكثير من حسابات المحتالين لمتابعتها.

أضافت St James أن حقيقة أن العديد من حسابات المؤثرين الذين تم إنشاؤها بواسطة الذكاء الاصطناعي يتم تشغيلها من قبلي تضيف إهانة إلى الإصابة.

"نحن كنساء في العالم نكسب أقل. نحن في وضع غير مواتي في العديد من الطرق. منطقة واحدة في العالم حيث لدينا ميزة هي شيء المؤثر والتمثيل، لذلك إنها مجرد طبقة إضافية،" قالت St James.

"إنه يجعلني أشعر قليلاً بالانزعاج من أنه رجل يكسب المال متظاهرًا بأنه امرأة،" أضافت.

Apple، التي فشلت حتى الآن في حل مشكلة "الاستخدام المزدوج" لتطبيقات تبديل الوجوه التي يمكن استخدامها ببراءة ولكنها غالبًا ما تُستخدم لإنشاء محتوى غير متوافق، أزلت من متجر App Store بعد استجوابها حول القضية.