فيتاليك يكشف عن ازدواجية المعايير في معضلة تنظيم سلامة الذكاء الاصطناعي

فيتاليك بوتيرين لديه المشاركة مخاوف بشأن الاستخدامات المتزايدة للجدل المفهوم النظري لـ "سلامة الذكاء الاصطناعي" من قبل الشركات والحكومات. 

شرح بيوتيرين على منصة التواصل الاجتماعي X أن الشركات الرائدة في مجال الذكاء الاصطناعي، مثل Anthropic، لا يمكنها تحديد التدابير المناسبة أو غير المناسبة للسلامة، لأن ذلك يؤدي إلى نظام يتم فيه صياغة القواعد من قبل الأقوى.

هل يمكن 'أمان الذكاء الاصطناعي' يُستخدم كأداة للهيمنة العالمية؟

أعرب فيتاليك بوتيرين مؤخراً عن مخاوفه بشأن مفهوم سلامة الذكاء الاصطناعي الذي استحوذت عليه شركات كبرى ومصالح وطنية، وذلك عبر منصة التواصل الاجتماعي X.

على سبيل المثال، Anthropic حظيت مؤخراً بإشادة لرفضها السماح لوزارة الرعاية الاجتماعية (DoW) أو كيانات حكومية أخرى باستخدام نماذجها كلود للمراقبة الجماعية أو الأسلحة ذاتية التشغيل بالكامل.

ومع ذلك، ألغت الشركة أيضاً تعهدها بالسلامة القائم على إيقاف المخاطر، الذي كان يلزم الشركة بتعليق جميع عمليات التدريب والنشر بشكل غير مشروط حتى تلحق التدابير الأمنية بالركب إذا طورت أي نموذج ذكاء اصطناعي تتجاوز قدراته قدرة الشركة على إثبات سلامة النموذج.

أشار فيتاليك إلى أن انتقاد Anthropic السابق لمنافسيها لتعلمهم من مخرجات كلود لاقى رداً عنيفاً حاداً من النقاد، لا سيما في الصين، الذين جادلوا بأن كلود نفسه درب نماذه على المعرفة الواسعة والعامة للإنترنت.

تزعم Anthropic أن مشكلتها مع المنافسين مفتحي المصدر هي أنهم يفتقرون إلى حواجز السلامة اللازمة ويشكلون مخاطر، ولكن لماذا Anthropic يستطيعون تحديد أي تدابير السلامة مناسبة؟

صرح بوتيرين بأن إجراءات Anthropic تشير إلى نظام حيث "يتم صياغة القواعد من قبل الأقوى".

عبر عن خوفه من أن تصبح سلامة الذكاء الاصطناعي لا يمكن تمييزها عن عقلية "شركتنا/بلدنا تستحق أن تدير العالم"، مما سيخلق عالماً أكثر خطورة.

يجادل بأنه إذا استثنَت لوائح السلامة حتماً منظمات الأمن القومي، فستصبح اللوائح هشة. وهذا أمر ذو صلة خاصة حيث تؤكد الأخبار الأخيرة أن مختبرات الذكاء الاصطناعي الكبرى تسعى بشكل متزايد إلى شراكات متعددة المليارات مع مقاولي الدفاع لتوفير بيئات ذكاء اصطناعي آمنة للاستخدام العسكري.

هل تقييد الذكاء الاصطناعي خطير؟

منذ سنوات، أصبح فيتاليك أحد أكبر المانحين لمعهد مستقبل الحياة (FLI). في عام 2021، تم تقديم كمية ضخمة من رموز شيبا إينو (SHIB) له من قبل منشئي الرمز. عندما كانت فقاعة عملة الكلب في ذروتها، تجاوزت القيمة الدفترية 1 مليار دولار. سارع فيتاليك للتبرع بالأموال قبل انخفاض الفائدة وأرسل ما يقرب من 500 مليون دولار من SHIB إلى FLI.

في ذلك الوقت، كان معهد مستقبل الحياة (FLI) يركز على مخاطر مثل التهديدات البيولوجية والحرب النووية. ومع ذلك، تحول المعهد منذ ذلك الحين إلى التركيز على العمل السياسي العدواني واللوبي، وغالباً ما يدفع نحو لوائح يجد فيتاليك أنها مثيرة للقلق. وتحديداً، هو لا يوافق على تركيزهم على وضع حراس في نماذج الذكاء الاصطناعي لجعلها ترفض "الأشياء السيئة".

يرى فيتاليك هذه القيود كحلول هشة لأنها يمكن تجاوزها بسهولة من خلال كسر الحماية أو الضبط الدقيق.

والأهم من ذلك، أنه يخشى أن تؤدي هذه الاستراتيجيات إلى مكان مظلم حيث يتم حظر الذكاء الاصطناعي مفتوح المصدر للحفاظ على احتكار الرجل الطيب.

بدلاً من ذلك، يدافع فيتاليك عن نظام يُسمى التسارع الدفاعي (d/acc). تقترح هذه الفلسفة أن أفضل طريقة للتعامل مع التكنولوجيا الخطرة هي بناء الدروع وفتحها للمصدر أولاً.

خصص مؤخراً 40 مليون دولار لمشاريع مثل الأجهزة الآمنة، الدفاع البيولوجي، والأمن السيبراني لدعم أيديولوجيته.

الأجهزة الآمنة تجعل رقائق الكمبيوتر غير قابلة للاختراق، لذا لا يمكن استخدامها للتجسس الجماعي. يتضمن الدفاع البيولوجي تطوير مرشحات هواء متقدمة واختبارات PCR سلبية للكشف عن الأوبئة ووقفها في مراحلها المبكرة. ستؤدي الاستثمارات في الأمن السيبراني إلى تحسين قابلية التحقق من البرمجيات بحيث لا يمكن للهجمات المدعومة بالذكاء الاصطناعي إسقاط البنية التحتية الحيوية بسهولة.