الذكاء الاصطناعي يجعل تهديدات القتل واقعية للغاية، تكشف ناشطة أسترالية

كشفت الناشطة الأسترالية كايتلين روبر أن الذكاء الاصطناعي يتم استخدامه الآن لإصدار تهديدات وإساءة عنيفة واقعية للغاية عبر الإنترنت. ووفقًا لروبر، وعلى الرغم من سنوات من العمل على الإنترنت كناشطة، وجدت نفسها مصابة بالصدمات النفسية بسبب موجة التهديدات المدعومة بالذكاء الاصطناعي التي تلقتها مؤخرًا.

كانت التهديدات المولدة رقميًا ممكنة على مدى السنوات القليلة الماضية، وحتى وقت قريب، لم تكن نماذج الذكاء الاصطناعي النماذج قادرة على محاكاة الأشخاص الحقيقيين ما لم يكن لديهم حضور كبير عبر الإنترنت. ووفقًا لخبير، تحتاج النماذج الآن فقط إلى صورة شخصية لإنشاء أي شيء يريده المستخدمون.

في عام 2023، تم إرسال فيديو إلى قاضٍ في فلوريدا، تم إنشاؤه باستخدام أداة تخصيص في لعبة الفيديو "جراند ثفت أوتو". أظهر الفيديو شخصية افتراضية تشبه القاضي في المظهر والمشي، وهي تُقتل عن طريق الاختراق.

ناشطة أسترالية تدعو إلى الحذر بشأن استخدام الذكاء الاصطناعي

ووفقًا لروبر، كانت بعض المنشورات التي تلقتها جزءًا من حملة من الكراهية الموجهة ضدها وزملائها في مجموعة "كولكتيف شوت" (Collective Shout)، وهي مجموعة ناشطة أسترالية على منصة إكس ومنصات التواصل الاجتماعي الأخرى. وأشارت إلى أنه في إحدى الصور المرسلة إليها، كانت هناك صورة لها وهي معلقة بحبل المشنقة، بينما أظهر مقطع فيديو آخر لها وهي محترقة وتصرخ. وكانت بعض الصور الأخرى أكثر جرأة، حيث بذل المستخدمون جهودًا كبيرة لإيصال رسالتهم.

زعمت روبر أن معظم الصور ومقاطع الفيديو التي تم التلاعب بها باستخدام الذكاء الاصطناعي كانت هي ترتدي فستانًا أزرق مزهرًا تملكه بالفعل. وقالت: "إنها هذه التفاصيل الغريبة الصغيرة التي تجعل الأمر يبدو أكثر واقعية، وبشكل ما، نوعًا مختلفًا من الانتهاك". وأشارت إلى أن فيضان الإساءة عبر الإنترنت بدأ هذا الصيف بعد حملتها لإغلاق ألعاب الفيديو العنيفة التي تمجد المشاهد الجنسية والإساءة.

ذكرت أن بعض الحسابات والصور الموجهة ضدها قد تم إزالتها. وذكرت روبر أيضًا أن الشركة زعمت أن المنشورات الأخرى التي تصور وفاتها العنيفة لم تنتهك شروط الخدمة الخاصة بالمنصة. في الواقع، زعمت أن منصة إكس، في مرحلة ما، أدرجت أحد الحسابات التي تزعجها في قائمة الأشخاص الموصى بمتابعتهم. وذكرت روبر أن بعض مضايقيها زعموا أيضًا استخدام "غروك" (Grok) للبحث عن كيفية العثور على النساء في المنازل والمقاهي.

تريد روبر من المنصات معالجة هذه الآفة

زعمت روبر أنه بعد أن سئمت، قررت نشر بعض الأمثلة. وبعد أن فعلت ذلك، أخبرتها منصة إكس بأن حساباتها تنتهك سياسات السلامة ضد المحتوى الدموي غير المبرر، وقامت بتجميد حسابها مؤقتًا.

في غضون ذلك، كانت هناك حملة عالمية ضد الذكاء الاصطناعي بسبب استخدامه في تنفيذ عمليات الاحتيال. يستخدم المجرمون الآن هذه التقنية لمحاكاة أصوات الأشخاص الحقيقيين، واستخدامها في أنشطتهم غير المشروعة العديدة. وتشمل الأنشطة الأخرى إنشاء محتوى للبالغين باستخدام الذكاء الاصطناعي دون الحصول على إذن صريح من الشخص المعني.

بالإضافة إلى هذه الأنواع من المحتوى، تدعي التقارير أن الذكاء الاصطناعي يجعل التهديدات الأخرى أكثر إقناعًا. على سبيل المثال، يُعد "سواتينغ" (swatting) ممارسة وضع مكالمات طوارئ كاذبة بهدف تحفيز استجابة كبيرة من الشرطة والعاملين في الطوارئ. في الصيف، ذكرت الجمعية الوطنية للنيابة العامة أن التكنولوجيا "قد كثفت بشكل كبير من نطاق ودقة وإخفاء هوية" هذه الهجمات.

على نطاق أصغر، أدى زيادة مقاطع الفيديو المصنوعة بالذكاء الاصطناعي التي تظهر غزوًا منزليًا مزعومًا إلى قيام السكان المستهدفين بالاتصال بإدارات الشرطة في جميع أنحاء البلاد. تدعي التقارير أن مرتكبي هجمات "سواتينغ" يمكنهم إقناع إنفاذ القانون بالإبلاغ عن تقارير كاذبة من خلال نسخ الأصوات والتلاعب بالصور. استخدم مجرم متكرر إطلاق نار محاكي للإيحاء بأن هناك مسلحًا في موقف سيارات مدرسة ثانوية في ولاية واشنطن. وتم إغلاق الحرم الجامعي لمدة 20 دقيقة بعد وصول الشرطة والوكالات الفيدرالية.