كشف ناشط أسترالي أن الذكاء الاصطناعي يجعل التهديدات بالقتل تبدو واقعية للغاية

كشفت الناشطة الأسترالية كايتلين روبر عن استخدام الذكاء الاصطناعي حاليًا لتوجيه تهديدات واقعية للغاية وإساءة عنيفة عبر الإنترنت. ووفقًا لروبر، فعلى الرغم من سنوات عملها كناشطة على الإنترنت، إلا أنها شعرت بصدمة نفسية جراء موجة التهديدات الأخيرة التي تلقتها عبر الذكاء الاصطناعي.

أصبحت التهديدات الرقمية ممكنة خلال السنوات القليلة الماضية، وحتى وقت قريب، نماذج قادرة على محاكاة الأشخاص الحقيقيين إلا إذا كان لديهم حضور قوي على الإنترنت. ووفقًا لأحد الخبراء، فإن النماذج الآن لا تحتاج إلا إلى صورة شخصية لإنشاء أي شيء يريده المستخدمون.

في عام 2023، تلقى قاضٍ في فلوريدا مقطع فيديو تم إنشاؤه باستخدام أداة تخصيص في لعبة الفيديو "جراند ثيفت أوتو". يُظهر الفيديو شخصية افتراضية تُحاكي القاضي في مظهرها وحركتها أثناء تعرضه للقتل.

ناشط أسترالي يدعو إلى توخي الحذر بشأن استخدام الذكاء الاصطناعي

بحسب روبر، فإن بعض المنشورات التي تلقتها كانت جزءًا من حملة تحريض موجهة ضدها وضد زملائها في "كوليكتيف شوت"، وهي جماعة ناشطة أسترالية على منصة "إكس" وغيرها من منصات التواصل الاجتماعي. وأشارت إلى أن إحدى الصور التي أُرسلت إليها كانت تُظهرها معلقة بحبل مشنقة، بينما أظهر مقطع فيديو آخر لها وهي تشتعل وتصرخ. وكانت بعض المنشورات الأخرى أكثر بشاعة، حيث بذل المستخدمون قصارى جهدهم لإيصال رسالتهم.

زعمت روبر أنها في معظم الصور والفيديوهات المفبركة باستخدام الذكاء الاصطناعي، كانت ترتدي فستانًا أزرق مزهرًا تملكه بالفعل. وقالت: "هذه التفاصيل الصغيرة الغريبة هي ما يجعلها تبدو أكثر واقعية، وبطريقة ما، نوعًا مختلفًا من الانتهاك. هذه الأشياء قد تتجاوز حدود الخيال". وأشارت إلى أن موجة الإساءات عبر الإنترنت بدأت هذا الصيف بعد حملتها لإغلاق ألعاب الفيديو العنيفة التي تمجد المشاهد الإباحية والإساءة.

ذكرت أن بعض الحسابات والصور الموجهة إليها قد حُذفت. كما ذكرت روبر أن الشركة ادّعت أن منشورات أخرى تُصوّر موتها العنيف لا تُخالف شروط خدمة المنصة. بل زعمت أن X، في وقتٍ ما، أدرجت أحد الحسابات التي تُضايقها ضمن قائمة الأشخاص المُوصى بمتابعتهم. وأشارت روبر إلى أن بعض مُضايقيها زعموا أيضًا استخدامهم تطبيق Grok للبحث عن كيفية العثور على النساء في المنازل والمقاهي.

يريد روبر أن تتصدى المنصات لهذا الخطر

زعمت روبر أنها بعد أن طفح بها الكيل، قررت نشر بعض الأمثلة. وبعد ذلك، أخبرها (س) أن حساباتها تنتهك سياسات السلامة المتعلقة بالعنف المفرط، وقام بإغلاق حسابها مؤقتًا.

في غضون ذلك، انطلقت حملة عالمية ضد الذكاء الاصطناعي بسبب استخدامه في عمليات الاحتيال. إذ يستغل المجرمون هذه التقنية لتقليد أصوات الأشخاص الحقيقيين، مستخدمين إياها في أنشطتهم غير المشروعة المتعددة. وتشمل هذه الأنشطة أيضاً إنتاج محتوى للبالغين باستخدام الذكاء الاصطناعي دون الحصول على إذن صريح من الشخص المعني.

إضافةً إلى هذا النوع من المحتوى، تشير التقارير إلى أن الذكاء الاصطناعي يُضفي مصداقيةً أكبر على تهديدات أخرى. فعلى سبيل المثال، يُعدّ التبليغ الكاذب عن حالات الطوارئ ممارسةً تقوم على إرسال بلاغات كاذبة بهدف استدراج استجابة واسعة من الشرطة وفرق الطوارئ. وفي الصيف، ذكرت الرابطة الوطنية للمدعين العامين أن هذه التقنية "زادت بشكل ملحوظ من نطاق هذه الهجمات ودقتها وسرية هوية مرتكبيها".

على نطاق أضيق، أدى ازدياد مقاطع الفيديو المُعدّة بالذكاء الاصطناعي والتي تُظهر عمليات اقتحام منازل مزعومة إلى دفعdentالمستهدفين للاتصال بأقسام الشرطة في جميع أنحاء البلاد. ويزعم التقرير أن مرتكبي هذه البلاغات الكاذبة قادرون على إقناع سلطات إنفاذ القانون بتلفيق بلاغات كاذبة عن طريق استنساخ الأصوات والتلاعب بالصور. وقد استخدم أحد المجرمين المتكررين أصوات إطلاق نار مُحاكاة للإيحاء بوجود مُطلق نار في موقف سيارات إحدى المدارس الثانوية في ولاية واشنطن. وتم إغلاق الحرم الجامعي لمدة 20 دقيقة بعد وصول الشرطة وعناصر الأمن الفيدرالي.