فيتاليك ينتقد ازدواجية المعايير في معضلة تنظيم سلامة الذكاء الاصطناعي

فيتاليك بوتيرين أعرب مخاوفه بشأن الاستخدامات المثيرة للجدل بشكل متزايد للمفهوم النظري "لسلامة الذكاء الاصطناعي" من قبل الشركات والحكومات. 

أوضح بوتيرين على منصة التواصل الاجتماعي X أن الشركات الرائدة في مجال الذكاء الاصطناعي، مثل أنثروبيك، لا تستطيع أن تملي ما هي التدابير المناسبة أو غير المناسبة للسلامة، لأن ذلك يؤدي إلى نظام يتم فيه وضع القواعد من قبلtron.

هل يمكن "السلامة القائمة على الذكاء الاصطناعي" كأداة للهيمنة العالمية؟

مفهوم سلامة الذكاء الاصطناعي استغلال من قبل الشركات الكبرى والمصالح الوطنية.

فعلى سبيل المثال، شركة أنثروبيك مؤخراً إشادة لرفضها السماح لوزارة الرعاية الاجتماعية أو غيرها من الكيانات الحكومية باستخدام نماذج كلود الخاصة بها للمراقبة الجماعية أو الأسلحة ذاتية التشغيل بالكامل.

ومع ذلك، ألغت الشركة أيضًا تعهدها بوقف المخاطر المتعلقة بالسلامة والذي أجبر الشركة على وقف جميع عمليات التدريب والنشر بشكل غير مشروط حتى تواكب تدابير السلامة ما إذا كانت قد طورت نموذج ذكاء اصطناعي تتجاوز قدراته قدرة الشركة على إثبات سلامة النموذج.

فيتاليك وأشار إلى أن انتقادات شركة أنثروبيك السابقة لمنافسيها لتعلمهم من مخرجات كلود أثارت ردود فعل عنيفة من النقاد، وخاصة في الصين، الذين جادلوا بأن كلود نفسه قام بتدريب نماذجه على المعرفة العامة الواسعة للإنترنت.

تزعم شركة أنثروبيك أن مشكلتها مع منافسيها من البرامج مفتوحة المصدر تكمن في افتقارهم لضوابط السلامة اللازمة وتشكيلهم للمخاطر، ولكن لماذا يحق لشركة أنثروبيك أن تقرر أي تدابير السلامة مناسبة؟

صرح بوتيرين بأن تصرفات أنثروبيك تشير إلى نظام يتم فيه "صياغة القواعد من قبلtron"

وأعرب عن مخاوفه من أنه إذا أصبح أمان الذكاء الاصطناعي غير قابل للتمييز عن عقلية "شركتنا/بلدنا يستحق إدارة العالم"، فسوف يخلق ذلك عالماً أكثر خطورة.

يجادل بأنّه إذا استثنت لوائح السلامة حتمًا منظمات الأمن القومي، فإنّ هذه اللوائح ستصبح هشة. ويكتسب هذا الأمر أهمية خاصة في ظلّ تأكيد الأخبار الأخيرة على أنّ مختبرات الذكاء الاصطناعي الكبرى تسعى بشكل متزايد إلى إقامة شراكات بمليارات الدولارات مع شركاتtracالدفاعية لتوفير بيئات ذكاء اصطناعي آمنة للاستخدام العسكري.

هل تقييد الذكاء الاصطناعي أمر خطير؟

قبل سنوات، أصبح فيتاليك أحد أكبر المتبرعين لمعهد مستقبل الحياة (FLI). في عام 2021، تلقى هديةً عبارة عن كمية هائلة من رموز Shibأ إينو (SHIB) من مُنشئي هذه الرموز. عندما بلغت فقاعة هذه العملة الرقمية ذروتها، تجاوزت قيمتها الدفترية مليار دولار. سارع فيتاليك بالتبرع بهذه الأموال قبل انخفاض سعرها، وأرسل ما يقارب 500 مليون دولار من SHIB إلى معهد مستقبل الحياة.

في ذلك الوقت، ركزت منظمة FLI على مخاطر مثل التهديدات البيولوجية والحرب النووية. إلا أنها حولت تركيزها منذ ذلك الحين نحو العمل السياسي والضغط المكثف، وغالبًا ما تسعى إلى فرض قوانين يراها فيتاليك مثيرة للقلق. وعلى وجه التحديد، فهو يعارض تركيزها على وضع ضوابط في نماذج الذكاء الاصطناعي لجعلها ترفض "الأمور الضارة".

فيتاليك إلى هذه القيود على أنها حلول هشة لأنه يمكن تجاوزها بسهولة عن طريق كسر الحماية أو التعديل الدقيق.

والأهم من ذلك، أنه يخشى أن تؤدي هذه الاستراتيجيات إلى مكان مظلم حيث يتم حظر الذكاء الاصطناعي مفتوح المصدر للحفاظ على احتكار "الجانب الجيد".

بدلاً من ذلك، يدعو فيتاليك إلى نظام يُسمى التسارع الدفاعي (d/acc). تقترح هذه الفلسفة أن أفضل طريقة للتعامل مع التكنولوجيا الخطيرة هي بناء الدروع وجعلها مفتوحة المصدر أولاً.

وقد خصص مؤخراً 40 مليون دولار لمشاريع مثل الأجهزة الآمنة والدفاع البيولوجي والأمن السيبراني لدعم أيديولوجيته.

تُتيح الأجهزة الآمنة حماية رقائق الكمبيوتر من الاختراق، ما يمنع استخدامها في التجسس الجماعي. ويشمل الدفاع البيولوجي تطوير أنظمة ترشيح هواء متقدمة واختبارات تفاعل البوليميراز المتسلسل السلبية للكشف عن الأوبئة ووقفها مبكرًا. كما تُسهم الاستثمارات في الأمن السيبراني في تحسين إمكانية التحقق من البرمجيات، ما يُصعّب على الهجمات المدعومة بالذكاء الاصطناعي تعطيل البنية التحتية الحيوية.