داخل أول حرب ذكاء اصطناعي: أخطاء الاستهداف، التضليل، وفجوات المساءلة

- لا تزال القوات العسكرية الأمريكية تحقق في هجوم القصف على مدرسة في إيران، ولم يُعلن أحد ما إذا كان الذكاء الاصطناعي قد لعب دوراً في اختيارها كهدف.
- ساعد نظام Maven الذكي، الذي يعمل الآن بنموذج لغوي كبير، القوات الأمريكية في ضرب 1000 موقع خلال 24 ساعة.
- في غضون ذلك، حققت مقاطع الفيديو الحربية المولَّدة بالذكاء الاصطناعي مئات الملايين من المشاهدات، بينما كانت المنصات بطيئة في الاستجابة.
قُصفت مدرسة في بلدة ميناب الإيرانية الجنوبية في اليوم الأول من الضربات الأمريكية والإسرائيلية ضد إيران. توفي أكثر من 175 شخصاً، بما في ذلك أطفال المدارس. لم تعلن واشنطن ولا تل أبيب قالت ما حدث. لم يتحمل أحد المسؤولية. سؤال واحد يظل يطرح نفسه: هل أصاب نظام ذكاء اصطناعي وصل الهدف الخاطئ?
في أول 24 ساعة، استهدفت القوات الأمريكية حوالي 1,000 موقع، حوالي 42 في الساعة. وجدت دراسة أجراها مركز الدراسات الأمنية (CSET) حول الفيلق الجوي المحمول جواً رقم 18 أنه باستخدام نظام ماڤن الذكي، يمكن لـ 20 شخصاً القيام بما كان يحتاج فريقاً مكوناً من 2,000 شخص في مركز العمليات الجوية المشتركة في العراق. بحلول أواخر عام 2024، وضعت الولايات المتحدة نموذج لغة كبير، وهو نفس نوع البرمجيات التي تقف وراء روبوتات الدردشة الذكية الاستهلاكية، داخل نظام ماڤن. كان هذا من بين أول الحروب التي استخدمت تلك التكنولوجيا في الاستهداف.
الجيش الأمريكي يقول إنه لا يزال يبحث في ضربة ميناب. ولم يصرح عن الدور، إن وجد، الذي لعبه نظام الذكاء الاصطناعي في إرسال صاروخ نحو ذلك المبنى.
أفادت صحيفة نيويورك تايمز في وقت مبكر أن النظام قد يكون يعمل على بيانات قديمة. كتبت المراسلة الخارجية لوزا لوفلاك على منصة X أن الضربة قد تكون "مبنية على استخبارات قديمة بعقدين من الزمن"، وأن أي شخص يتحقق من صور الأقمار الصناعية الحديثة مجاناً عبر الإنترنت كان سيرى "مدرسة مع ملعب رياضي" في أحد المواقع المحددة للهجوم.
بحث عالم الحاسوب آن توتي نغوين في الأماكن التي تفشل فيها أنظمة الرؤية بالذكاء الاصطناعي. وجدت ورقت البحثية، "نماذج اللغة والرؤية عمياء: فشل في ترجمة الميزات البصرية التفصيلية إلى كلمات"، أن هذه الأنظمة غالباً ما تفشل عندما تجلس هيكلتان قريباً من بعضهما، ويجب على البرمجية تحديد هوية كل منهما.
تُظهر صور الأقمار الصناعية من صحيفة نيويورك تايمز مدرسة شاكرة طيبة الابتدائية تجلس مباشرة بجوار مجمع للحرس الثوري الإسلامي في ميناب، وهو التكوين الدقيق الذي أشار إليه بحث نغوين.
من المسؤول عندما يخطئ الذكاء الاصطناعي؟
قالت إميليا بروباسكو، الضابطة البحرية السابقة والزميلة البارزة في مركز الأمن والتكنولوجيا الناشئة، في بودكاست The Four أن المسؤولية تقع على عاتق القائد الذي أصدر الأمر. هذا هو كيف يعمل الجيش. وقالت إن مشكلة الصندوق الأسود، وعدم القدرة على رؤية كيف توصل نظام الذكاء الاصطناعي إلى إجابته، هي "منطقة بحث مستمرة، وليست مشكلة محلولة".
قبل الحرب، كانت شركة أنثروبيك، التي تجلس تقنيتها داخل نظام ماڤن، قد دخلت في نزاع تعاقدي مع وزارة الدفاع بشأن أمرين: ما إذا كان الذكاء الاصطناعي موثوقاً بما يكفي لاتخاذ قرارات مصيرية، وما إذا كان استخدام الذكاء الاصطناعي لربط نقاط البيانات المتفرقة يحوله إلى أداة مراقبة جماعية.
قالت بروباسكو إن كلا القلقين صحيحان، لكن أشارت إلى "حرج شركة خاصة ترسم خطوطاً حول كيفية إجراء الجيش لعملياته".
قالت هولاند ميشيل أن المحادثة تتجه باستمرار نحو أسوأ سيناريو. آلة تختار الأهداف وتطلق النار دون تدخل بشري. هذا الخطر حقيقي، كما قال، لكنه ليس ما يحدث الآن.
“العمل الأصعب والأكثر إلحاحًا،” قال، “هو جعل أنظمة الذكاء الاصطناعي أكثر شفافية وضمان أن البشر الذين يعتمدون على مخرجاتها يتخذون قرارات مستنيرة حقًا، وليس مجرد الانصياع لما تقترحه الآلة.”
انتشر المحتوى الحربي المُولَّد بالذكاء الاصطناعي أيضاً بسرعة عبر الإنترنت
تتبع فريق التحقق من بي بي سي مقاطع فيديو مزيفة بالذكاء الاصطناعي وصور أقمار صناعية مُعدلة حول الصراع التي جذبت مئات الملايين من المشاهدات.
قال تيموثي غراهام، باحث الوسائط الرقمية في جامعة كوينزلاند للتكنولوجيا: " النطاق مثير للقلق حقاً، وهذا جعل من المستحيل تجاهل الأمر الآن." وأضاف، " ما كان يتطلب إنتاج فيديو احترافي يمكن الآن القيام به في دقائق باستخدام أدوات الذكاء الاصطناعي. لقد انهار فعلياً حاجز إنشاء لقطات صناعية مقنعة للنزاعات.".
قالت منصة إكس إنها ستستبعد المبدعين من نظام الدفع الخاص بها إذا نشروا لقطات حربية مزيفة بالذكاء الاصطناعي دون وضع علامة. وصفتها ماهسا عليمردياني، الباحثة في معهد إنترنت أكسفورد والمتخصصة في إيران، بأنها " إشارة بارزة على أنهم لاحظوا أن هذا مشكلة كبيرة.". ولم ترد ميتا وتيك توك عند سؤالهما عما إذا كانا يخططان للقيام بذلك أيضاً.
لا تكتفِ بقراءة أخبار العملات الرقمية فحسب، بل افهمها. اشترك في نشرتنا الإخبارية. مجانية.

نور بازمي
تُساهم نور بازمي في فريق أخبار Cryptopolitan وتتمتع بدرجة جامعية في الدراسات الإعلامية. تغطي نور أخبار البلوكشين والعملات المشفرة والذكاء الاصطناعي وشركات التكنولوجيا الكبرى وأسواق السيارات الكهربائية والاقتصاد العالمي وتحولات السياسات الحكومية. وهي حاليًا تدرس التسويق للتواصل مع الجماهير العالمية.
















