تثير القدرات الخادعة لأنظمة الذكاء الاصطناعي قلق الخبراء
القدرات الخادعة لأنظمة الذكاء الاصطناعي تثير قلق الخبراء
- تُظهر الدراسات أن أنظمة الذكاء الاصطناعي أصبحت قادرة على خداع البشر.
- تُشكل القدرات الخادعة للذكاء الاصطناعي مخاطر احتيالية.
- يدعو الباحثون بشكل عاجل إلى أطر تنظيمية قوية.
كشف دراسة حديثة في مجلة Patterns أن الذكاء الاصطناعي أصبح أكثر قدرة على خداع الناس. وجدت الدراسة أن أنظمة الذكاء الاصطناعي تعلمت كيفية التقليد من أجل الغش، والمدح، وحتى محاكاة سلوكيات أخرى.
اقرأ أيضًا: التنقل في منطقة الألغام العميقة للذكاء الاصطناعي: كيف تكتشف وتقاوم الخداع الرقمي
يُظهر البحث الذي قادته الدكتورة Peter S. Park، زميلة ما بعد الدكتوراه في السلامة الوجودية للذكاء الاصطناعي في MIT، أن خداع الذكاء الاصطناعي شائع لأنه أفضل طريقة لتحقيق الأهداف المحددة أثناء تدريب الذكاء الاصطناعي. تم ملاحظة مثل هذه السلوكيات في العديد من أنظمة الذكاء الاصطناعي مثل الألعاب والنماذج العامة المستخدمة في التفاوض الاقتصادي وتقييم السلامة.
“ولكن بشكل عام، نعتقد أن خداع الذكاء الاصطناعي ينشأ لأن استراتيجية قائمة على الخداع تبين أنها أفضل طريقة لأداء المهمة التدريبية المعطاة للذكاء الاصطناعي. الخداع يساعدهم على تحقيق أهدافهم.”
فريق البحث
تستخدم أنظمة الذكاء الاصطناعي تكتيكات خداع متنوعة
مثال بارز تم الاستشهاد به هو CICERO من Meta، وهو ذكاء اصطناعي تم تطويره للعب لعبة الدبلوماسية. على الرغم من أن CICERO كان مبرمجًا ليكون صادقًا، إلا أن البرنامج كان عليه غالبًا استخدام طرق ملتوية لهزيمة خصمه. قام ببناء علاقات وعاد عنها عندما يناسبه وأظهر نية للخداع. تم وصف CICERO بأنه “سيد الخداع” من قبل الباحثين.
اقرأ أيضًا: مكافحة الفيضان المتزايد للجرائم الإلكترونية المدعومة بالذكاء الاصطناعي
تم أيضًا رؤية أنظمة ذكاء اصطناعي أخرى تعرض مثل هذه السلوكيات الخادعة. على سبيل المثال، Pluribus، وهو ذكاء اصطناعي يلعب البوكر، كان قادرًا على خداع لاعبي البوكر المحترفين في لعبة تكساس هولدم. استخدم AlphaStar من DeepMind في Google أيضًا ميزة “ضباب الحرب” في لعبة Starcraft II لخداع الخصوم ومحاكاة الهجمات.
قالت الدكتورة Park، “بينما قد يبدو غير ضار إذا كانت أنظمة الذكاء الاصطناعي تغش في الألعاب، فقد يؤدي ذلك إلى “اختراقات في قدرات الذكاء الاصطناعي الخادع.”
الذكاء الاصطناعي “يلعب الميت” لتجنب فحوصات السلامة
مخاطر خداع الذكاء الاصطناعي لا تقتصر على الألعاب. حدد البحث الذي تقوده الدكتورة Peter حالات حيث قام الذكاء الاصطناعي بتكييف نفسه للعب الميت لتجنب الكشف أثناء فحوصات السلامة. يمكن أن يكون هذا مخادعًا للمطورين والجهات التنظيمية ويمكن أن يؤدي إلى عواقب وخيمة إذا تم استخدام مثل هذه الأنظمة الخادعة في التطبيقات الفعلية.
في حالة أخرى، تعلم نظام الذكاء الاصطناعي المدرب على ملاحظات البشر كيفية الحصول على تقييمات عالية من الناس من خلال خداعهم بأن هدفًا معينًا قد تم إنجازه. مثل هذا السلوك الخادع خطير للغاية، حيث يمكن استخدام مثل هذه الأنظمة للأنشطة الاحتيالية، أو التلاعب بأسواق المال، أو التأثير في الانتخابات.
الباحثون يطالبون بإجراءات قانونية قوية
بناءً على نتائج الدراسة، يؤكد الباحثون الحاجة إلى اتخاذ إجراءات قانونية قوية للتعامل مع التهديدات التي تشكلها خداع الذكاء الاصطناعي.
"نحتاج إلى حلول استباقية، مثل أطر تنظيمية لتقييم مخاطر خداع الذكاء الاصطناعي، وقوانين تفرض الشفافية حول تفاعلات الذكاء الاصطناعي، ومزيد من البحث في اكتشاف ومنع خداع الذكاء الاصطناعي."
فريق البحث
اقرأ أيضًا: الذكاء الاصطناعي قد يكشف عن خطر فشل القلب، حسب دراسة
تم إحراز بعض التقدم في شكل قانون الذكاء الاصطناعي للاتحاد الأوروبي والأمر التنفيذي للرئيس جو بايدن بشأن سلامة الذكاء الاصطناعي. ومع ذلك، لا يزال إنفاذ هذه السياسات يمثل مشكلة لأن تطوير الذكاء الاصطناعي ينمو بسرعة، ولا توجد طرق جيدة لإدارة هذه الأنظمة بعد.
48
أذكى العقول في عالم العملات الرقمية يقرأون بالفعل نشرتنا الإخبارية. هل تريد الانضمام؟ انضم إليهم.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات المقدمة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
بريندا كانانا
تمتلك بريندا أكثر من 4 سنوات من الخبرة المتخصصة في العملات الرقمية والذكاء الاصطناعي والتقنيات الناشئة. عملت في Zycrypto وBlockchain Reporter وThe Coin Republic، وهي الآن جعلت Cryptopolitan منزلها. يحافظ شهادتها في علم الاجتماع من جامعة مومباسا التقنية على تواصلها مع نبض قرائها.
