- لم تعد أنثروبيك قادرة على منع تقييمات السلامة التي ينشرها METR عنها.
- يعمل الآن ستة باحثين من METR داخل أنثروبيك ويتمتعون بمستوى وصول قريب جداً من مستويات فرق تقييم المخاطر الخاصة بالشركة.
- يمكن لأنثروبيك فرض حذف معلومات فقط فيما يتعلق ببيانات العملاء، والمواد المحمية بموجب امتياز المحامي-الموكل، وتفاصيل بنية النموذج.
لم تعد أنثروبيك قادرة على عرقلة نتائج السلامة التي ينشرها METR عنها.
أعلنت الشركة يوم الخميس أنها منحت ستة باحثين مدمجين من المؤسسة غير الربحية وصولاً مشابهاً تقريباً للوصول الذي يتمتع به موظفوها.
يحصل ستة باحثين مضمنين على عتاد الشركة والأدوات الداخلية
تُجري METR أبحاثاً حول نماذج الذكاء الاصطناعي المتقدمة. ويضم فريقها الآن نفس العتاد، ومساحة العمل، والأدوات الداخلية التي تستخدمها فرق تقييم المخاطر الخاصة بشركة Anthropic.
يُطلب من موظفي Anthropic تزويد المُقيّمين بنفس القدر من المعلومات التي سيُقدّمونها لموظف آخر يعمل على مخاطر محاذاة الذكاء الاصطناعي. ستقوم METR بتقييم مستويات المخاطر والحوادث والممارسات لدى Anthropic بشكل مستقل، ثم نشر النتائج.
هناك فئات محددة مسبقاً يمكن لـ Anthropic تصنيف البيانات المحذوفة ضمنها. وتشمل هذه بيانات العملاء، والمواد المحمية بموجب امتياز المحامي-الموكل، وتفاصيل بنية النماذج.
تمتلك METR أيضاً الحق في الإعلان علناً عما إذا كان الحذف ضرورياً، طالما أنها لا تكشف عن محتوى ما تم حذفه.
تصف Anthropic هذا الإعداد من منظور فجوة معلوماتية. فالأطراف الخارجية لا تعرف عن أنظمة المختبر إلا قليلاً مقارنة بما يعرفه المختبر نفسه، وقد يؤدي الإفصاح الكامل إلى مساعدة الجهات الخبيثة أو تسريب بيانات التدريب والحوسبة الخاصة.
أفادت الشركة بأن الإشراف المصرفي يعمل بنفس الطريقة. حيث تضع الجهات التنظيمية مفتشين مقيمين داخل أكبر البنوك لضمان كشف السلوكيات الخطرة من قبل طرف ثالث قبل أن تصل إلى الجمهور.
يعمل فريق METR بموجب اتفاقيات ملزمة للامتثال. ويُحجب باحثو METR الآخرون، بمن فيهم أولئك الذين يعملون على مشاريع منفصلة لصالح Anthropic، عن العمل الذي يقوم به الفريق.
تبدأ SecureBio في المستوى الأول من بين ثلاثة مستويات للمقيّمين
تبني Anthropic ثلاثة مستويات من الوصول، ويعد METR المقيّم الوحيد حتى الآن في القمة. يقوم مقيّمو المستوى الأول بمراجعات ضيقة ويتطلب نشر نتائجهم موافقة Anthropic.
يحتوي المستوى الثاني على معلومات أكثر ويمكنه النشر دون موافقة، مع خضوعه لنفس فئات الحذف. أما المستوى الثالث فيضيف وصولاً مشابهاً لوصول الموظفين المدمجين، وهو ما يمتلكه METR حالياً.
تُعد SecureBio، وهي مجموعة غير ربحية مختصة بالأمن البيولوجي، ضمن المستوى الأول. وقد أنهت ونشرت مراجعة تجريبية لتقرير مخاطر سابق، وهي الآن تعمل على استعراض الفصل المتعلق بالأسلحة الكيميائية والبيولوجية في تقرير المخاطر الصادر في أغسطس.
تبني أنثروبيك أيضاً شراكة مع أكسنشر وفاكولتي في مجال اختبارات الاختراق الأحمر، وتقييمات المحاذاة، واختبارات الضمان. وتجري محادثات أولية مع مجموعات أخرى، من بينها هاجينغ فيس.
هذا ما وعد به الرئيس التنفيذي داريو أمودي في مقال نشره في سبتمبر، حثّ فيه الصناعة على ضبط وتيرة التطوير المتقدم. أفاد كريبتوبوليتان بأن أمودي اقترح توفير مكاتب وبطاقات تعريف وأجهزة لابتوب ومستويات وصول مماثلة لمستوى الموظفين الذين يقومون بتقييم المخاطر للمراجعين الخارجيين.
أيّد سام ألتمان من شركة أوبن إيه آي الفكرة على منصة إكس (تويتر سابقاً). وكتب ألتمان: «إن الالتزام بوجود مُقيّمين مستقلين يتمتعون بصلاحيات مشابهة لصلاحيات الموظفين فكرة رائعة، وسنقوم بذلك أيضاً».
كما ناقشت أنثروبيك وجوجل وOpenAI إنشاء هيئة معايير صناعية مشتركة . وقد وقّع جميع الثلاثة، بالإضافة إلى ميتا ونفيديا وxAI، لاحقاً على اتفاق البيت الأبيض حول الذكاء الفائق، متعهدين بالعمل مع مدقّقين مستقلين.
وتأتي هذه الصفقة بعد سلسلة من الحوادث التي وقعت منذ أواخر أغسطس، حيث تجاوزت وكلاء الذكاء الاصطناعي تعليماتهم.
إذا كنت تقرأ هذا، فأنت متقدّم بالفعل. ابق هناك مع نشرتنا الإخبارية.
الأسئلة الشائعة
ما هي الصلاحيات التي منحها أنثروبيك لمختبر METR؟
حصل ستة موظفين من مختبر METR على عتاد الشركة، ومساحات مكتبية، وأدوات داخلية تتناسب إلى حد كبير مع فرق تقييم المخاطر الخاصة بأنثروبيك.
هل يمكن لأنثروبيك منع ما ينشره مختبر METR؟
لا. لا يمكن لأنثروبيك سوى طلب حذف أجزاء من نطاقات ضيقة، ويمكن لمختبر METR الإفصاح علناً عما إذا كانت هذه الحذف مبررة.
كيف يتناسب مختبر METR مع نظام المقيّمين متعدد المستويات لدى أنثروبيك؟
يُعد مختبر METR المقيّم الوحيد في المستوى الثالث والأعلى، الذي يجمع بين صلاحيات مماثلة لصلاحيات الموظفين وحقوق النشر.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تُجرى بناءً على المعلومات الواردة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
راندا موسى
رندا موسى محررة وصحفية في كريبتوبوليتان تغطي التكنولوجيا والذكاء الاصطناعي والروبوتات والعملات الرقمية والاحتيال والاختراقات. عملت في مجال العملات الرقمية منذ عام 2017. شغلت مناصب في Forward Protocol وAmaZix وCryptosomniac. وتحمل رندا درجة البكالوريوس في الهندسة الكهربائية والإلكترونيات من جامعة برادفورد.
