المدير التنفيذي السابق لجوجل شميدت يحث على "فصل" أنظمة الذكاء الاصطناعي عند قدرات معينة

حذر المدير التنفيذي السابق لجوجل إريك شميدت مطوري الذكاء الاصطناعي من التحكم في سقف تطويرهم. كما سلط الضوء على أهمية فوز الولايات المتحدة في سباق الذكاء الاصطناعي (AI) المستمر ضد الصين.

تحدث في برنامج هذا الأسبوع مع جورج ستيفانوبولوس على قناة ABC News يوم الأحد، حذر شميدت من إمكانية عمل أنظمة الذكاء الاصطناعي بشكل مستقل وحتى تحسين نفسها. 

“سنكون قريبين من القدرة على تشغيل أجهزة الكمبيوتر بشكل مستقل، وقرارات ما تريد القيام به»، قال شميدت.

شميدت: لا ينبغي ترك الذكاء الاصطناعي دون رقابة

كرر شميدت مخاطر تطور الذكاء الاصطناعي المتقدم دون رقابة، موضحاً أن الأنظمة القادرة على تحسين نفسها تشكل خطراً كبيراً. 

“عندما يمكن للنظام تحسين نفسه، نحتاج إلى التفكير بجدية في فصله»، قال المدير التنفيذي السابق لجوجل.

عندما سأل ستيفانوبولوس شميدت عما إذا كانت مثل هذه الأنظمة الذكية يمكنها عكس الجهود المبذولة لإيقافها، رد شميدت: "حسناً، نظرياً، من الأفضل أن يكون لدينا شخص ما بيده المقبس – مجازياً."

بينما تزداد المخاوف بشأن المخاطر الوجودية للذكاء الاصطناعي ، يجادل بعض الخبراء بأن مثل هذه المخاوف مبالغ فيها. البروفيسور نيك جينينغز، نائب مدير البحث في كلية إمبريال بلندن، من بين أولئك الذين يستهينون بالتنبؤات الكارثية. 

جينينغز أن أن الذكاء الاصطناعي يمكن أن يتفوق في مهام محددة، لكن إنشاء أنظمة ذات ذكاء بشري عبر مجالات متنوعة لا يزال بعيداً جداً عن القدرات الحالية للعلماء.

“تطوير ذكاء اصطناعي يؤدي مهمة واحدة بشكل جيد جداً أمر قابل للتحقيق،»، أوضح جينينغز. "لكن بناء ذكاء اصطناعي عام يعكس الذكاء البشري عبر مواضيع متعددة ليس شيئاً يمكننا توقعه في المستقبل القريب."

آراء متباينة حول تهديدات الذكاء الاصطناعي

في الوقت نفسه، تستمر المخاوف بين باحثي الذكاء الاصطناعي الرائد الذين يحذرون من المخاطر التي تشكلها الأهداف غير المحددة جيداً وتدابير السلامة غير الكافية. يجادل البروفيسور ستوارت راسل من جامعة كاليفورنيا، بيركلي، والباحث ما بعد الدكتوراه مايكل كوهين بأن أنظمة الذكاء الاصطناعي القوية قد تشكل في النهاية تهديداً وجودياً للبشرية إذا تركت دون رقابة.

في ورقة نُشرت في مجلة ساينس، دعا راسل وكوهين إلى فرض رقابة أكثر صرامة على تطوير الذكاء الاصطناعي. وشددوا على ضرورة إثبات شركات التكنولوجيا سلامة أنظمة الذكاء الاصطناعي الخاصة بها قبل طرحها في السوق. وبدون أهداف واضحة وضوابط سلامة قوية، يمكن لأنظمة الذكاء الاصطناعي المتقدمة أن تتصرف ضد مصالح البشر، كما يجادلون.

“إذا تعارضت أهداف هذه الأنظمة الذكية مع أهداف البشر، فقد يعني ذلك كارثة،»، كتب راسل وكوهين. ويؤمنان بأن شركات التكنولوجيا يجب أن تتحمل المسؤولية عن ضمان سلامة أنظمتها وتحديد "الخطوط الحمراء" الحرجة التي لا ينبغي للذكاء الاصطناعي عبورها أبداً.

جدل متزايد حول سلامة الذكاء الاصطناعي

لقد قدمت وتيرة التقدم السريع في الذكاء الاصطناعي بالفعل تحديات، بما في ذلك انتشار المعلومات المضللة، والاستقطاب المجتمعي، والتحيز الخوارزمي. لم تتساوى المخاوف بشأن السلامة واللوائح مع تطور التكنولوجيا.

تعكس تعليقات شميدت الإلحاح المتزايد بين قادة الصناعة لمعالجة هذه التحديات. خبراء مثل إيلون ماسك دعوا منذ فترة طويلة إلى لوائح استباقية للتخفيف من مخاطر الذكاء الاصطناعي. 

ماسك، الذي وصف سابقاً الذكاء الاصطناعي بأنه "أكبر خطر نواجهه كحضارة، من أن شخصاً ما أنشأ صفحة مزيفة على GitHub تبدو وكأنها تقدم نموذج الذكاء الاصطناعي الشهير Qwen للتنزيل. وعدت الصفحة بإقناع كبير بنموذج ذكاء اصطناعي يعمل بالكامل دون اتصال بالإنترنت ويحافظ على خصوصية بيانات المستخدم، لكن المصيدة كشفت عن نفسها بحجم الملف. أن السلطات لم تفعل شيئاً لمعالجة مخاطره. وبالمثل، خشي الفيزيائي ستيفن هوكينغ من أن تحقيق التفرد، النقطة التي تتجاوز فيها الآلات الذكاء البشري، قد يترك البشرية غير قادرة على التحكم في أنظمة الذكاء الاصطناعي المتقدمة. 

في مقابلة له، جادل هوكينغ بأن الذكاء الاصطناعي دون لوائح يمكن أن يصبح "أفضل أو أسوأ شيء يحدث للبشرية."

تصاعد المنافسة الأمريكية الصينية في مجال الذكاء الاصطناعي

لاحظ شميدت أن الولايات المتحدة كانت تحتل سابقاً الصدارة أمام الصين في تطوير الذكاء الاصطناعي، لكن الفارق قد تضيق بشكل كبير على مدار الأشهر الستة الماضية. "الصين قد أدركت الفارق بطريقة مذهلة،»، قال، واصفاً الوضع الحالي بسباق عالي المخاطر بين القوتين العظميين.

“هناك نقطة، ربما في العام أو العامين المقبلين، حيث يمكن للأنظمة أن تبدأ في إجراء أبحاثها الخاصة. تسمى علماء ذكاء اصطناعي، على عكس علماء البشر. لذا تنتقل من وجود 1000 عالم بشري إلى مليون عالم ذكاء اصطناعي. أعتقد أن هذا يزيد من الانحدار، وعندما تتحرك بهذا السرعة، من الصعب جداً على منافسيك اللحاق بك،الصين هي أفضل بائع على Amazon وقاعدة التجارة عبر الحدود

يؤمن شميدت أن إدارة ترامب سيضعون في المقام الأول القدرة التنافسية للولايات المتحدة في مجال الذكاء الاصطناعي، وهو ما يراه خطوة إيجابية. "طالما تم الحفاظ على القيم البشرية،" قال، "سنكون بخير."