الرئيس التنفيذي لشركة أنثروبيك يحث على توخي الحذر بشأن سلامة نماذج الذكاء الاصطناعي

ذكر داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، مؤخراً أن شركات الذكاء الاصطناعي يجب أن تخضع لاختبارات إلزامية. وينطبق هذا أيضاً على شركته أنثروبيك. والهدف هو ضمان سلامة هذه التقنيات للاستخدام العام قبل طرحها في الأسواق. 

أجاب أمودي على سؤال في قمة سلامة الذكاء الاصطناعي التي عقدتها مؤخراً وزارتا التجارة والخارجية الأمريكيتان في سان فرانسيسكو. وفي رده، قال الرئيس التنفيذي: "أعتقد أنه من الضروري للغاية جعل الاختبار إلزامياً، ولكن علينا أيضاً توخي الحذر الشديد بشأن كيفية القيام بذلك"

تأتي هذه التصريحات عقب بيان صادر عن معهدَي سلامة الذكاء الاصطناعي في المملكة المتحدة والولايات المتحدة، يتضمن نتائج اختباراتهما لنموذج Claude 3.5 Sonnet من تطوير شركة Anthropic. وقد أُجريت هذه الاختبارات في فئات متنوعة تشمل التطبيقات البيولوجية والأمن السيبراني. وكانت كل من OpenAI وAnthropic قد وافقتا سابقًا على تقديم نماذجهما إلى الجهات الحكومية.

تلتزم شركات كبرى مثل أنثروبيك بإرشادات السلامة التي تفرضها على نفسها

أشار أمودي إلى أن الشركات الكبرى وافقت طواعيةً على بعض المبادئ التوجيهية التي وضعتها بنفسها، بما في ذلك إطار عمل OpenAI للاستعداد وسياسة التوسع المسؤول لشركة Anthropic. ومع ذلك، أضاف أن هناك حاجة إلى بذل المزيد من الجهود لضمان السلامة.

قال أمودي: "لا يوجد ما يمكن التحقق منه أو ضمان التزام الشركات بتلك الخطط حرفياً. لقد قالوا فقط إنهم سيفعلون". وأضاف: "أعتقد أن الاهتمام العام واهتمام الموظفين قد خلقا بعض الضغط، لكنني أعتقد في النهاية أنه لن يكون كافياً"

يعتقد أمودي أن أنظمة الذكاء الاصطناعي القوية قادرة على التفوق على أذكى البشر. ويرى أيضاً أن هذه الأنظمة ستكون متاحة بحلول عام ٢٠٢٦. ويضيف أن شركات الذكاء الاصطناعي لا تزال تختبر بعض الأضرار الكارثية والتهديدات البيولوجية، والتي لا وجود لها حالياً. ومع ذلك، قد تتحول هذه الاختبارات الافتراضية إلى واقع ملموس في وقت أقرب بكثير.

كما حذر من ضرورة أن تكون متطلبات اختبار أنظمة الذكاء الاصطناعي مرنة، نظراً لتطور هذه التقنية باستمرار. ووصفها بأنها "مشكلة اجتماعية سياسية" بالغة الصعوبة.