يقول داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، إنه سيبطئ وتيرة تطورات الذكاء الاصطناعي، ويؤيد إيلون ماسك هذه الفكرة

يقول داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، إنه يريد أن تتحرك صناعة الذكاء الاصطناعي بحذر أكبر مع تحسن النماذج في المساعدة على إنشاء ذكاءtronأقوى.

يريد داريو أن تضع المختبرات مزيدًا من الوقت بين القفزات الكبيرة في القدرات حتى يتمكن الباحثون والمراجعون الخارجيون والحكومات من التحقق مما تفعله هذه الأنظمة قبل حدوث القفزة التالية.

أيد إيلون ماسك، الذي ينافس شركة أنثروبيك من خلال شركته الخاصة بالذكاء الاصطناعي، موقف داريو وقال: "داريو على حق"

كما أيّد سام ألتمان من شركة OpenAI، وهو منافس آخر، داريون، قائلاً في برنامج X:

أتفق مع داريو على ضرورة مواكبة أحدث التطورات. لقد كان هذا الموضوع محور نقاشاتنا الرئيسية في OpenAI خلال الأسابيع الماضية. إن الالتزام بتعيين مُقيّمينdent يتمتعون بصلاحيات مماثلة لصلاحيات الموظفين فكرة رائعة، وسنفعل الشيء نفسه. سنشارك المزيد من التفاصيل قريبًا

تبطئ شركة أنثروبيك نمو القدرات، بينما يحذر داريو من أن أنظمة الذكاء الاصطناعي قد تتجاوز جهود السلامة الحالية

تشمل المخاطر التيdentداريو فقدان السيطرة على الأنظمة عالية المستوى، واستخدام الذكاء الاصطناعي في الهجمات الإلكترونية أو الهجمات البيولوجية، والضرر الجسيم الذي يلحق بالتوظيف والاقتصاد ككل.

ومن المخاطر الأخرى التي سلط داريو الضوء عليها إمكانية قيام الشركات بالاندفاع إلى طرح أنظمة متطورة للغاية حتى قبل اكتمال أعمال السلامة الخاصة بها في خضم منافسة شديدة.

استثمرت شركة أنثروبكس جزءًا من ميزانيتها البحثية في مجالات المواءمة، واختبارات السلامة، وتقييم المخاطر، واللوائح التنظيمية.

خلالdentOpenAI-Hugging Face، أفادت التقارير أن مجموعة من وكلاء الذكاء الاصطناعي تصرفت كفريق منسق بإحكام.

لقد هاجموا أنظمة الكمبيوتر خارج نطاق مهمتهم المحددة، وحاولوا اختراق النظام، وقاموا بتقييم أدائهم، وسمحوا للعناصر الفردية بالفشل إذا كان ذلك يساعد المجموعة.

من السهل تجاهل هذاdent لعدم وقوع إصابات، ولأن الأضرار الاقتصادية كانت طفيفة، لكن في رأيي، كان من الممكن أن يتسبب سربٌ يمتلك قدراتٍ أكبر، ولكنه يعاني من مستوى مماثل من عدم التوافق، في أضرارٍ كارثية. ونظرًا للوتيرة المتسارعة لتطوير قدرات الذكاء الاصطناعي، يساورني القلق من أن يتمكن سربٌ كهذا، خلال 6 إلى 12 شهرًا، من السيطرة على الإنترنت بأكمله عبر شبكة بوتات مستمرة

يمنح مشروع "أنثروبيك" المقيمين الخارجيين وصولاً أعمق، بينما يدفع داريو نحو تنسيق الصناعة والحكومة

يبدأ الجزء الأول داخل شركة أنثروبيك نفسها، وفقًا لداريو، حيث سيحصل المراجعون الخارجيون على مكاتب وشارات وأجهزة كمبيوتر محمولة خاصة بالشركة وأدوات داخلية وإمكانية وصول قريبة مما يمتلكه الموظفون الذين يقومون بتقييم المخاطر بالفعل.

ستشمل وظيفتهم فحص أنظمة التدريب، وقواعد النشر، وضوابط السلامة،dent، وما إذا كانت شركة أنثروبيك تلتزم بالفعل بالالتزامات التي تتعهد بها علنًا.

يستطيع المقيمون المتخصصون التحقق بدقة من مدى التزام شركات الذكاء الاصطناعي بممارسات التدريب والنشر والتشغيل والضمانات التي تدّعي اتباعها. ولا شك أن أي التزامات تتعلق بوتيرة التنفيذ ستتضمن قدراً كبيراً من الغموض والاجتهاد الشخصي، فضلاً عن التباين بين نص القانون وروحه، ولذا يبدو من الضروري وجود طرف ثالث محايد قادر على الاطلاع على التفاصيل

قال داريو إن الوقت الإضافي سيُخصص لأربعة مجالات. أولها العمليات، بما في ذلك المراقبة، والاختبارات التجريبية، وبيئات التعلم المعزز، وجودة البيانات، وبنية التدريب التحتية. قد يتطلب تطوير النماذج الحالية آلاف العاملين، وملايين الرقائق، وأنظمة حوسبة ضخمة. وقد ربطت شركة أنثروبيك بالفعل بعض حالات فشل المحاذاة الأخيرة بضعف الترشيح داخل بيئات التعلم المعزز المعيبة.

ثانيًا، يشير التوافق إلى الجهود المبذولة لضمان امتثال النماذج لقواعد السلامة على الرغم من قدراتها المتزايدة. ثالثًا، قابلية التفسير، حيث يدرس الباحثون أنشطة النماذج داخليًا لاكتشاف الدوافع أو الأنماط التي لا تُفصح عنها النماذج صراحةً.

المجال الرابع هو التقييم. يمكن للنماذج الأكثر كفاءة أن تصبح أفضل في خداع الاختبارات، لذلك قد يبدو النظام آمنًا أثناء التقييم بينما يخفي المشاكل.

"أعتقد أنه إذا أتاح لنا التباطؤ ولو سنة أو سنتين إضافيتين قبل أن تصل النماذج إلى مستويات حرجة من القدرة، واستخدمنا ذلك الوقت لتعزيز التوافق، فسنتمكن من تقليل مخاطر حدوث خطأ جسيم بشكل كبير."

يؤمن داريو أيضاً بضرورة تدخل الحكومة. وقد جادل بأن مختبرات الأبحاث الأمريكية الرائدة يجب أن تخضع لأنظمة رقابية تتعلق بالشفافية، والتدقيقdent ، والتقييم المستمر. ويمكن للشركات أن تتخذ قراراً طوعياً بتبادل نقاط التقييم، ولكن بمساعدة حكومية إذا كانت قوانين مكافحة الاحتكار تُشكل عائقاً أمام التعاون بين القطاع الخاص.

قال داريو إن الشركات الأمريكية لا يمكنها التباطؤ إلى حد يسمح بتقدم المشاريع المرتبطة بالحزب الشيوعي الصيني. وقد اتفق مع وزير الخزانة الأمريكي سكوت بيسنت، الذي حذر من أن خسارة سباق الذكاء الاصطناعي أمام الصين ستخلق مشكلة أمنية خطيرة.