استخدام الحكومة للذكاء الاصطناعي لمراقبة وسائل التواصل الاجتماعي يثير المخاوف

في السنوات الأخيرة، أصبح استخدام الذكاء الاصطناعي (AI) في جوانب مختلفة من العمليات الحكومية أكثر شيوعاً. ومع ذلك، فقد أثار نقاشات كبيرة حول الخصوصية والمساءلة والإنصاف. وقد أثار الكشف الأخير حول استخدام وكالة الهجرة وإنفاذ القانون الأمريكية (ICE) للذكاء الاصطناعي لمراقبة نشاط وسائل التواصل الاجتماعي للمتقدمين بطلبات التأشيرة مناقشات جديدة حول دور الخوارزميات في تحديد من يُعتبر "مخاطراً". 

أداة مدعومة بالذكاء الاصطناعي: تقنية البحث Giant Oak (GOST)

كشفت وثائق تم الحصول عليها من خلال إجراء بموجب قانون حرية المعلومات (FOIA) أن وكالة ICE تستخدم أداة مدعومة بالذكاء الاصطناعي تُعرف باسم تقنية البحث Giant Oak (GOST) منذ عام 2014. صُممت GOST لمسح منشورات وسائل التواصل الاجتماعي للمتقدمين بطلبات التأشيرة ومنحهم "درجة وسائل تواصل اجتماعي" تتراوح من 1 إلى 100. يتم تحديد هذه الدرجة بناءً على ما إذا كانت المنشورات "مسيئة" للولايات المتحدة. إذا أثارت درجة المتقدم مخاوف، يمكن لمحللي ICE مراجعة الصور والملفات الشخصية المحددة لتقييم ما إذا كانت تشكل خطراً محتملاً.

استثمار بملايين الدولارات

يتمثل نطاق برنامج المراقبة بالذكاء الاصطناعي هذا في أهمية كبيرة، حيث دفعت وكالة ICE reportedly أكثر من 10 ملايين دولار لشركة Giant Oak مقابل التكنولوجيا منذ عام 2017. علاوة على ذلك، يمتد نطاق Giant Oak ليشمل وكالات حكومية أخرى، حيث تحتفظ الشركة بعقود مع وكالات حكومية أخرى، بما في ذلك إدارة مكافحة المخدرات (DEA)، والقوة الجوية، ووزارة الخارجية، ووزارة الخزانة. وقد دفع الاستخدام الواسع النطاق لهذه التكنولوجيا في مختلف الوكالات الحكومية المدافعين عن الخصوصية إلى التساؤل عن آثارها على الحريات المدنية.

المدافعون عن الخصوصية يصدرون الإنذار

يدافع دعاة الخصوصية عن أن استخدام خوارزميات الذكاء الاصطناعي لفحص محتوى وسائل التواصل الاجتماعي يثير مخاوف جسيمة. وأعرب باتريك تومي، نائب مدير مشروع الأمن القومي في الاتحاد الأمريكي للحريات المدنية (ACLU)، عن مخاوفه قائلاً: «لا ينبغي للحكومة استخدام الخوارزميات لمراقبة منشوراتنا على وسائل التواصل الاجتماعي وتحديد من منا يُصنّف على أنه 'مخاطرة'». ودعا تومي إلى الشفافية وحثّ وزارة الأمن الداخلي (DHS) على شرح كيفية تحديد أنظمتها لمخاطر الأفراد وما هي العواقب التي قد يواجهها الأشخاص الذين تُحددهم خوارزمياتهم كـ«مخاطر».

أصول مراقبة وسائل التواصل الاجتماعي

بدأ برنامج مراقبة وسائل التواصل الاجتماعي قيد المناقشة كمشروع تجريبي في عام 2016، واستهدف بشكل أساسي المتجاوزين المحتملين لتأشيرات الإقامة. وفي الوقت نفسه، في عام 2016، نفذت إدارة ترامب قواعد تتطلب من المتقدمين بطلبات التأشيرة تقديم خمس سنوات من تاريخهم على وسائل التواصل الاجتماعي كجزء من عملية الفحص. تم تقديم هذه الإجراءات في محاولة لتعزيز الأمن القومي، لكنها أصبحت منذ ذلك الحين موضوعاً للجدل.

خطر التمييز

أثار الخبراء مخاوف من أن هذه الممارسات المدعومة بالذكاء الاصطناعي قد تؤدي عن غير قصد إلى التمييز. ويرون أن الأنظمة الآلية قد تحدد بشكل غير متناسب المتقدمين من دول أو خلفيات معينة، مما قد يؤدي إلى نتائج غير عادلة. وشهدت حالة بارزة في عام 2019 رفض دخول طالب من جامعة هارفارد إلى الولايات المتحدة بسبب النشاط على وسائل التواصل الاجتماعي لأصدقائه، مما يسلط الضوء على إمكانية حدوث عواقب غير مقصودة.

مستقبل الذكاء الاصطناعي في إنفاذ قوانين الهجرة

بينما انتهى عقد ICE مع Giant Oak reportedly في عام 2022، لا يزال الموضوع الأوسع نطاقاً لاستخدام الذكاء الاصطناعي لتقييم محتوى وسائل التواصل الاجتماعي للمتقدمين موضوعاً للقلق. إن الحاجة إلى مزيد من الإشراف والتنظيم لمنع الإساءة وحماية الحريات المدنية واضحة. تمتد آثار هذه الممارسات إلى ما هو أبعد من إنفاذ قوانين الهجرة وتطرح أسئلة أساسية حول التوازن بين الأمن والخصوصية الفردية في العصر الرقمي.

أثار استخدام خوارزميات الذكاء الاصطناعي لمراقبة وتقييم محتوى وسائل التواصل الاجتماعي في سياق طلبات التأشيرة جدلاً حول دور الحكومة في تحديد من يُعتبر خطراً محتملاً. يجادل المدافعون عن الخصوصية بأن مثل هذه الممارسات تثير مخاوف كبيرة بشأن الحريات المدنية، ويحذر الخبراء من خطر التمييز بناءً على الجنسية أو الخلفية. ومع استمرار تطور التكنولوجيا، يصبح من المهم بشكل متزايد تحقيق التوازن بين الأمن القومي وحماية حقوق الخصوصية الفردية. تُعد حالة GOST واستخدامها من قبل ICE تذكيراً صارخاً بالتحديات والأسئلة التي تنتظرنا في عصر المراقبة المدعومة بالذكاء الاصطناعي.