الروبوتات القاتلة ليست روبوتات، بل بشر

الروبوتات القاتلة موجودة بالفعل في ساحة المعركة، وتُثبت أنها أسلحة مدمرة للغاية. يجب أن نقلق - بل نقلق بشدة. فكما أثبتت قدرتها الفتاكة في حروب غزة وأوكرانيا، فإن العواقب قد تكون وخيمة إذا تم التعامل معها بإهمال. في 3 أبريل، نشرت مجلة +972، وهي مطبوعة إسرائيلية، تقريرًا عن استخدام إسرائيل للذكاء الاصطناعيdentالأهداف في غزة. 

يُطلق على نظام الذكاء الاصطناعي اسم "لافندر"، ويُقال إنه نظّم قوائم قتل لعناصر مُشتبه بانتمائهم لحماس، بمن فيهم من هم في رتب أدنى. لا نعلم مدى صحة هذه القوائم، لكن الأمر الأكثر إثارة للقلق هو أنه استُخدم لاستهداف المسلحين حتى وهم في منازلهم مع عائلاتهم وأطفالهم والعديد من المدنيين. يُظهر الرسم البياني أدناه عدد الضحايا والإصابات حتى 15 أبريل.

تخبرنا الخوارزميات بمن يجب استهدافه

كماdent من العدد الكبير للقتلى المدنيين والدمار الهائل للبنية التحتية بعد غزو إسرائيل لغزة، أثار التقرير قلقًا بالغًا لدى الجمعيات الإنسانية والمسؤولين الحكوميين وكل عاقل حول العالم، وكذلك لدى الولايات المتحدة. وأعرب أنطونيو غوتيريش، الأمين العام للأمم المتحدة، عن "قلقه العميق"، بينما صرّح جون كيربي، المتحدث باسم البيت الأبيض، بأن "الولايات المتحدة تُراجع التقرير عن كثب".

وأبدى غوتيريش مزيدًا من القلق بشأن الضحايا وقال:

 "لا ينبغي تفويض أي جزء من قرارات الحياة والموت التي تؤثر على عائلات بأكملها إلى الحسابات الباردة للخوارزميات."

المصدر: Worldpoliticsreview.

نُشر التقرير بعدdent التي استهدفت فيها إسرائيل سبعة عمال إغاثة غربيين، بعضهم عسكريون بريطانيون سابقون، وقتلتهم. وقد أثار هذا بالطبع احتجاجات القضاة والمحامين في بريطانيا لوقف مبيعات الأسلحة لإسرائيل بسبب جرائم الحرب التي ترتكبها وانتهاكاتها الجسيمة للقانون الدولي.

بُعد آخر للتفكير في الروبوتات القاتلة

أبدت حملة "وقف الروبوتات القاتلة" مخاوفها، لكنها قالت إنها ليست ما كانت تحاربه منذ عام ٢٠١٢، إذ إنها، وفقًا لها، نظام معالجة بيانات، وأن القرار النهائي بإطلاقها يبقى بيد البشر. لكن أحد تصريحاتها يُقدم بُعدًا آخر للتفكير فيه. جاء هذا البيان بعد نشر الخبر، حيث جاء فيه:

"الافتقار إلى التحكم البشري والمشاركة الفعّالة في اتخاذ القرارات المتعلقة بمهاجمة الأهداف الموصى بها."

المصدر: Worldpoliticsreview.

يستخدم هذا البيان عبارة "الافتقار إلى السيطرة البشرية ذات المغزى"، مما يضيف طبقة أخرى من التعقيد إلى الذكاء الاصطناعي والروبوتات القاتلة التي تم إدانتها بالفعل، كما يوفر للناشطين مصدر قلق جديد للدفاع عنه.

عادةً ما يُصوَّر الذكاء الاصطناعي على أنه قد يسيطر على الكوكب يومًا ما ويُسبب أضرارًا كارثية، قد تصل إلى انقراض البشر. لكن الحقيقة الأكثر إثارة للقلق هي أن القوات التي تستخدمه ستُقلل من حذرها عند الاستهداف، مما يُقلل من مسؤوليتها، مما يدفعها إلى اتخاذ قرارات غير أخلاقية في الحروب، كما رأينا في غزة. لذا، في نهاية المطاف، لا يتعلق الأمر بالروبوتات التي تتخذ قرارات ضد البشر، بل يتعلق الأمر باتخاذ البشر قرارات آلية دون استخدام قدراتهم المعرفية بالكامل في مثل هذه المواقف الحساسة المتعلقة بالحياة والموت. وكما ذكر التقرير، قال مصدر:

"لقد فعلت الآلة ذلك ببرود."

المصدر: +972mag.

هناك أيضًا زاوية أخرى للأمر، وهي أنه قد يؤدي إلى إفساد قدرة المبرمجين على التواصل بشكل فعال مع أنظمة الذكاء الاصطناعي، وهو ما قد يؤدي في النهاية إلى ارتكاب جرائم حرب.