أعلن باحثون من معهد ماساتشوستس للتكنولوجيا عن إنشاء مستودع لمخاطر الذكاء الاصطناعي

أنتج باحثون من معهد ماساتشوستس للتكنولوجيا ومنظمات أخرى "مستودع مخاطر الذكاء الاصطناعي"، وهو قاعدة بيانات واسعة النطاق تضم المخاطر الموثقة التي تتفاقم بسبب أنظمة الذكاء الاصطناعي. ويأتي هذا في ظل التطور السريع لهذه التقنية، وهو ما يرتبط أيضاً بمخاطر استخدام أنظمة الذكاء الاصطناعي.

يسعى هذا المستودع إلى مساعدة صناع القرار في مختلف المؤسسات مثل الحكومة والبحث والشركات والصناعة على تقييم المخاطر الناشئة المرتبطة بالذكاء الاصطناعي، على الرغم من قدراته التحويلية.

يوفر المستودع توثيقًا منظمًا لمخاطر الذكاء الاصطناعي

مع اعتراف العديد من المنظمات والباحثين بأهمية حل مخاطر الذكاء الاصطناعي، كانت الجهود المبذولة لتوثيق هذه المخاطر وتصنيفها، إلى حد كبير، غير متقنة، مما أدى إلى مشهد مجزأ من أنظمة التصنيف المتضاربة.

"أردنا نظرة عامة شاملة تمامًا على مخاطر الذكاء الاصطناعي لاستخدامها كقائمة مرجعية"، هذا ما قاله بيتر سلاتري، الباحث ما بعد الدكتوراه القادم في MIT FutureTech وقائد المشروع، لموقع VentureBeat.

"لكن عندما نظرنا إلى الأدبيات، وجدنا أن تصنيفات المخاطر الحالية كانت مثل قطع أحجية الصور المقطوعة: مثيرة للاهتمام ومفيدة بشكل فردي، ولكنها غير مكتملة."

سلاتري.

مستودع مخاطر الذكاء الاصطناعي التحدي المذكور أعلاه من خلال دمج المعلومات من 43 تصنيفًا موجودًا، بما في ذلك المقالات التي تمت مراجعتها من قبل النظراء، والمطبوعات الأولية، وأوراق المؤتمرات، والتقارير.

أسفرت عملية التدقيق الدقيقة هذه عن إنشاء قاعدة بيانات تضم أكثر من 700 خطر حصري. ويستخدم هذا المستودع نظام تصنيف ثنائي الأبعاد.

أولاً، يتم تصنيف المخاطر بناءً على أسبابها، مع الأخذ في الاعتبار الكيان المسؤول (بشري أو ذكاء اصطناعي) - النية (غير مقصودة أو دولية)، وتوقيت (بعد التطوير أو قبل النشر).

وفقًا لمعهد ماساتشوستس للتكنولوجيا، فإن هذا التصنيف الأساسي يساعد في فهم المواقف والآليات التي يمكن أن تظهر من خلالها مخاطر الذكاء الاصطناعي.

قام باحثو معهد ماساتشوستس للتكنولوجيا بتصنيف مخاطر الذكاء الاصطناعي إلى سبعة أنواع

من ناحية أخرى، يتم تصنيف المخاطر إلى سبعة مجالات مختلفة، بما في ذلك المعلومات المضللة والجهات الفاعلة الخبيثة، وسوء الاستخدام، والتمييز والسمية، والخصوصية، والأمن.

تم تصميم مستودع مخاطر الذكاء الاصطناعي ليكون قاعدة بيانات حية ومتاحة للجمهور، ويمكن للمؤسسات تنزيله لاستخدامها.

يمكن لفرق البحث أن تخطط لتحديث قاعدة البيانات بشكل متكرر لتشمل المخاطر الجديدة وأحدث النتائج والاتجاهات المتطورة.

يهدف مستودع مخاطر الذكاء الاصطناعي أيضاً إلى أن يكون مورداً عملياً للشركات في مختلف القطاعات. وبالنسبة للمؤسسات التي تُطوّر أنظمة الذكاء الاصطناعي، يُشكّل المستودع قائمة مرجعية قيّمة لتقييم المخاطر والتخفيف من حدّتها.

"قد تستفيد المنظمات التي تستخدم الذكاء الاصطناعي من توظيف قاعدة بيانات مخاطر الذكاء الاصطناعي والتصنيفات كأساس مفيد لتقييم تعرضها للمخاطر وإدارتها بشكل شامل."

باحثون من معهد ماساتشوستس للتكنولوجيا.

وأضاف الباحثون: "قد تثبت التصنيفات أيضاً فائدتها فيdentالسلوكيات المحددة التي يجب القيام بها للتخفيف من مخاطر معينة".

فعلى سبيل المثال، يمكن لمنظمة تقوم بإنشاء نظام توظيف مدعوم بالذكاء الاصطناعي أن تستخدم المستودع لملاحظة المخاطر المحتملة المرتبطة بالتمييز والتحيز.

وبالتالي، يمكن للشركة التي تستخدم الذكاء الاصطناعي في إدارة المحتوى الاستفادة من مجال "المعلومات المضللة" لفهم المخاطر المحتملة المتعلقة بالمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي وإنشاء شبكات الأمان اللازمة.

باحثون من معهد ماساتشوستس للتكنولوجيا تعاون مع زملائهم في جامعة كوينزلاند، ومعهد مستقبل الحياة، وجامعة لوفين الكاثوليكية، وشركة هارموني إنتليجنس الناشئة في مجال الذكاء الاصطناعي، للبحث في قواعد البيانات الأكاديمية واستخراج الوثائق المتعلقة بمخاطر الذكاء الاصطناعي.

كما كشف الباحثون أن مستودع مخاطر الذكاء الاصطناعي سيفيد الأبحاث الأخرى حيثdentالمزيد من الثغرات التي تحتاج إلى اهتمام.

"سنستخدم هذا المستودعdentالثغرات أو الاختلالات المحتملة في كيفية تعامل المنظمات مع المخاطر"، كما قال نيل طومسون، رئيس مختبر MIT FutureTech.