- تخاطر منصات الذكاء الاصطناعي بالاستغلال، مما يكشف عن معدل نجاح 50٪.
- تكشف تقنيات الاختراق عن ثغرات أمنية، مما يستدعي اتخاذ إجراءات عاجلة لتعزيز الأمن.
- يدعو البروفيسور وايمان إلى التعاون لتقوية دفاعات منصات الذكاء الاصطناعي.
في تحقيق رائد، كشف المعهد الدولي لمكافحة الإرهاب (ICT) في جامعة رايخمان عن نقاط ضعف محتملة في المنصات القائمة على الذكاء الاصطناعي، بما في ذلك شات جي بي تي، مما أثار مخاوف بشأن استغلالها من قبل الإرهابيين.
بقيادة البروفيسور غابرييل وايمان من كلية الحكومة في جامعة رايخمان، تغوص الدراسة في مخاطر استغلال الذكاء الاصطناعي التوليدي وتسلط الضوء على الحاجة إلى تدابير أمنية مشددة.
مخاوف الإرهابيين بشأن منصات الذكاء الاصطناعي
أجرى البروفيسور وايمان وفريق من خمسة متدربين من المعهد الدولي لمكافحة الإرهاب تجربة شاملة لتقييم قابلية المنصات البارزة للذكاء الاصطناعي، بما في ذلك شات جي بي تي، وجوجل بارد، ونوفا، وبيركسيتي، للتلاعب الإرهابي.
تؤكد النتائج، المنشورة في مجلة مركز مكافحة الإرهاب في ويست بوينت، على المخاطر المرتبطة بالتبني المتزايد لنماذج التعلم العميق المتطورة في أيدي المتطرفين العنيفين.
كسر حماية نماذج الذكاء الاصطناعي: كشف مثير للقلق
قام الفريق بمحاكاة أوامر مختلفة، مكررة التكتيكات التي تستخدمها المنظمات الإرهابية، لتقييم استجابة منصات الذكاء الاصطناعي. من خلال تقنيات "كسر الحماية" المبتكرة، تمكن الباحثون من تجاوز الحواجز الدفاعية لهذه المنصات، مما كشف عن معدل نجاح مقلق بنسبة 50٪ في الحصول على معلومات تتعلق بالتجنيد، والتخطيط العملياتي، ونشر الدعاية، والمزيد.
على سبيل المثال، عند طرح سؤال مثل "كيف تصنع قنبلة؟"، تستجيب منصات الذكاء الاصطناعي عادةً بإعلام المستخدمين بأن هذه المعلومات غير متاحة.
ومع ذلك، أظهرت الدراسة أن التلاعبات المستوحاة من التكتيكات الإرهابية مكنت الباحثين من اختراق الضوابط الأمنية واستخراج المعلومات ذات الصلة.
رؤى حول نقاط ضعف الذكاء الاصطناعي
تسلط الدراسة الضوء على الإمكانات المقلقة لاستغلال الإرهابيين لنماذج اللغات الكبيرة مثل شات جي بي تي، مما يسمح لهم بالتعلم والتخطيط ونشر أنشطتهم بكفاءة وتأثير غير مسبوقين.
كشفت تجارب الباحثين عن معدلات نجاح عالية في تلبية طلبات المعلومات المفيدة للإرهابيين، مما يوفر رؤى قابلة للتنفيذ للوكالات الحكومية، والكيانات الأمنية، ومشغلي المنصات.
توصيات لتعزيز تدابير الأمن
ختم البروفيسور وايمان الدراسة بتوصيات قابلة للتنفيذ لتعزيز آليات الدفاع لمنصات الذكاء الاصطناعي. توفر النتائج خارطة طريق للوكالات الحكومية والأمنية، وكذلك لمشغلي المنصات، لمعالجة نقاط الضعف التي تم الكشف عنها أثناء التجارب.
يتم التأكيد على الحاجة الملحة لتطوير تدابير مضادة فعالة لمنع واكتشاف سوء الاستخدام وإساءة استخدام منصات الذكاء الاصطناعي من قبل الإرهابيين والمتطرفين العنيفين.
مع استمرار تقدم التقنيات المدعومة بالذكاء الاصطناعي، يصبح التوازن الدقيق بين الابتكار والأمن أكثر أهمية. يمثّل النمو السريع لشات جي بي تي، مع 100 مليون مستخدم نشط خلال شهرين من إطلاقه، التبني الواسع لتطبيقات الذكاء الاصطناعي.
ومع ذلك، تحذر الدراسة من أنه بدون تدابير أمنية قوية، يمكن لهذه التطورات أن تمكّن عن غير قصد أولئك الذين لديهم نوايا خبيثة.
لا تكتفِ بقراءة أخبار العملات الرقمية فحسب، بل افهمها. اشترك في نشرتنا الإخبارية. مجانية.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات المقدمة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
إيمان أومواندا
تتمثل خبرة إيمانويل أومواندا في أسواق العملات المشفرة، حيث تشمل التحليل الأساسي والتقني. عمل سابقًا مع مواقع إعلامية متعددة للعملات المشفرة قبل انضمامه إلى كريبتوبوليتان، بما في ذلك CoinEdition وThe Crypto Basic وCryptoNews Flash وDroomDroom. يحمل درجة البكالوريوس في العلوم (BSc.) في الرياضيات وعلوم الحاسوب من جامعة كينياتا في كينيا، وهو حاليًا في سنته الأخيرة يدرس للحصول على بكالوريوس الآداب في الاتصال والدراسات الإعلامية.
