الروبوتات القاتلة ليست روبوتات، بل البشر

الروبوتات القاتلة موجودة بالفعل في ساحة المعركة وتثبت أنها أسلحة مدمرة للغاية. يجب أن نكون قلقين - في الواقع، قلقين للغاية. فقد أثبتت إمكاناتها القاتلة في حروب غزة وأوكرانيا، وقد تكون العواقب مدمرة إذا تم التعامل معها بإهمال. في 3 أبريل، نشرت مجلة +972 الإسرائيلية تقريرًا عن استخدام إسرائيل للذكاء الاصطناعي لتحديد الأهداف في غزة. 

يُطلق على نظام الذكاء الاصطناعي اسم "لافندر"، ويُقال إنه أعدّ قوائم استهداف لأفراد مشتبه في انتمائهم إلى حماس، بمن فيهم من يشغلون رتباً أدنى. لا نعلم مدى دقة هذه القوائم، لكن الأمر الأكثر إثارة للقلق هو استخدامه لاستهداف المقاتلين حتى وإن كانوا داخل منازلهم مع عائلاتهم وأطفالهم، وفي محيطهم العديد من المدنيين. يوضح الرسم البياني أدناه عدد الضحايا والإصابات حتى 15 أبريل.

الخوارزميات تحدد من يجب استهدافه

كما يتضح من العدد المرتفع للضحايا المدنيين والنطاق الهائل لتدمير البنية التحتية بعد غزو إسرائيل لغزة، أثار التقرير مخاوف جادة بين المجتمعات الإنسانية والمسؤولين الحكوميين وكل فرد عاقل حول العالم وفي الولايات المتحدة. وقال أنطونيو غوتيريش، الأمين العام للأمم المتحدة، إنه «مُقلق بعمق»، بينما قال جون كيربي، المتحدث باسم البيت الأبيض، إن «الولايات المتحدة تراجع التقرير عن كثب».

أبدى غوتيريش قلقًا أكبر إزاء الضحايا قائلاً:

 «لا ينبغي تفويض أي جزء من قرارات الحياة والموت التي تؤثر على العائلات بأكملها إلى الحسابات الباردة للخوارزميات.»

المصدر: Worldpoliticsreview.

نُشر التقرير بعد الحادثة التي استهدفت فيها إسرائيل وقتلت سبعة من عمال الإغاثة الغربيين، وكان بعضهم من العسكريين البريطانيين السابقين. وهذا بالطبع حوّل القضاة والمحامين في بريطانيا إلى وقف مبيعات الأسلحة لإسرائيل بسبب جرائم الحرب وانتهاكاتها الجسيمة للقانون الدولي.

بعد آخر يتعلق بالروبوتات القاتلة

أظهرت حملة وقف الروبوتات القاتلة قلقها، لكنها قالت إنها ليست ما كانت تحاربه منذ عام 2012، فوفقًا لها إنه نظام لمعالجة البيانات، والقرار النهائي بإطلاق النار يبقى بيد البشر، لكن إحدى بياناتها تقدم بُعدًا آخر للتفكير. جاء البيان بعد نشر الخبر، وقال:

"انعدام السيطرة البشرية الهامة والمشاركة الفعالة في اتخاذ القرارات المتعلقة باستهداف الأهداف الموصى بها."

المصدر: Worldpoliticsreview.

تستخدم هذه العبارة عبارة "انعدام السيطرة البشرية الهامة"، مما يضيف طبقة أخرى من التعقيد إلى الذكاء الاصطناعي والآلات القاتلة المنددة بالفعل، كما يوفر للمناصرين مصدر قلق جديد للدفاع عنه.

عادةً ما يُصوَّر الذكاء الاصطناعي على أنه قد يتولى السيطرة على الكوكب يومًا ما ويسبب ضررًا كارثيًا، بل وقد يؤدي إلى انقراض البشرية. لكن حقيقة أكثر إثارة للقلق هي أن القوى التي تستخدمه ستتحلى بقدر أقل من الحذر عند استهداف الأهداف، مما يجعلها أقل خضوعًا للمساءلة، وهو ما سيؤدي إلى اتخاذ قرارات غير أخلاقية في الحروب، كما رأينا بالفعل في غزة. لذلك، في النهاية، الأمر لا يتعلق بروبوتات تتخذ قرارات ضد البشر، بل البشر يتخذون قرارات روبوتية دون استخدام قدراتهم المعرفية بالكامل في مثل هذه المواقف الحساسة المتعلقة بالحياة والموت. كما يذكر التقرير أن أحد المصادر قال،

"الآلة فعلت ذلك ببرود."

المصدر: +972مجلة.

هناك زاوية أخرى تتعلق بذلك، وهي أن هذا يمكن أن يفسد قدرة المبرمجين على التواصل بفعالية مع أنظمة الذكاء الاصطناعي، مما سيؤدي في النهاية إلى جرائم حرب.