يتزايد الطلب على الشفافية في مجال الذكاء الاصطناعي مع معالجة Howso لمفهوم "الصندوق الأسود" في الذكاء الاصطناعي

في عالم يتزايد فيه الاعتماد على الذكاء الاصطناعي،أصبحت الشفافية في عمليات صنع القرار مصدر قلق بالغ للكثيرين. ويؤكد مايك كابس، المؤسس المشارك لشركة Howso، وهي شركة مقرها رالي متخصصة في الذكاء الاصطناعي القابل للتفسير، أنه كما يدقق الناس في مكونات طعام إفطارهم، ينبغي عليهم المطالبة بالشفافية في أنظمة الذكاء الاصطناعي التي تؤثر على جوانب حيوية من حياتهم، مثل الرعاية الصحية والتعليم.

صعود الذكاء الاصطناعي ذي الصندوق الأسود

أدى الانتشار الواسع للذكاء الاصطناعي في حياتنا إلى استخدامه في عمليات صنع القرار المحورية، بدءًا من الإجراءات الطبية والموافقات الائتمانية وصولًا إلى قرارات الإفراج المشروط. ومع ذلك، يرى كابس أن إحدى المشكلات الرئيسية في العديد من أنظمة الذكاء الاصطناعي الحالية هي غموضها، والذي يُشار إليه غالبًا باسم "الذكاء الاصطناعي ذو الصندوق الأسود" 

تُصدر هذه الأنظمة أحكاماً نهائية دون تقديم رؤى واضحة حول كيفية التوصل إلى تلك الاستنتاجات، مما يترك المستخدمين وأصحاب المصلحة في حيرة من أمرهم بشأن معايير صنع القرار.

تأسست شركة Howso، المعروفة سابقًا باسم Diveplane، على يد مايك كابس في عام 2018 بهدف تحدي انتشار الذكاء الاصطناعي ذي الصندوق الأسود. ويُميزها نهجها الفريد في مجال الذكاء الاصطناعي، والمعروف باسم "الذكاء الاصطناعي القابل للتحديد". 

تتيح تقنية الذكاء الاصطناعي القابل للتتبع للمستخدمين إمكانية tracالقرار بنقاط بيانات محددة، مما يجعل عملية اتخاذ القرار شفافة وواضحة. على سبيل المثال، إذا تم تقديم توصية بإجراء جراحة طبية، يمكن لنظام Howso تحديد أهم 17 نقطة بيانات أثرت في هذا القرار، مما يوفر الوضوح والمساءلة.

وجدت تقنية الذكاء الاصطناعي من Howso تطبيقات في مختلف المجالات. إحدى عملائها، Scanbuy، تتعاون مع كبرى متاجر التجزئة للاستفادة من أداة Howso في مجال تحليل سلوك العملاء. وهذا يمكّن متاجر التجزئة من التنبؤ بتفضيلات العملاء بدقة ووضوح. 

والجدير بالذكر أن المؤسسات التعليمية مثل جامعة ولاية كارولينا الشمالية وجامعة كارولينا الشمالية قد تبنت أيضًا تقنية Howso لمشاريع محددة، مما يؤكد الطلب المتزايد على الذكاء الاصطناعي الشفاف في الأوساط الأكاديمية.

يؤكد قرار شركة Howso بجعل محرك الذكاء الاصطناعي الخاص بها مفتوح المصدر في سبتمبر التزامها بتعزيز الشفافية. تُمكّن هذه الخطوة المستخدمين من تصميم منصاتهم الخاصة المدعومة بالذكاء الاصطناعي والقابلة للتفسير، مما يُوسّع نطاق تقنية.

عملاء وشراكات بارزة

تضم قائمة عملاء Howso المرموقة شركات عملاقة في مختلف القطاعات، مثل ماستركارد وشركة التأمين الإسبانية Mutua de Madrileña. كما استفادت إدارة الصحة السلوكية وخدمات التنمية في ولاية فرجينيا من تقنية Howso لتحسين عمليات صنع القرار. وتُبرز هذه الشراكات مدى اتساع نطاق تطبيقات أنظمة الذكاء الاصطناعي التي تُعطي الأولوية للشفافية والمساءلة، والطلب المتزايد عليها.

يؤكد كابس على الأهمية البالغة للشفافية في مجال الذكاء الاصطناعي، ويقارنها بملصقات الأغذية. فكما يعتمد المستهلكون على المعلومات الغذائية لاتخاذ خيارات مدروسة بشأن طعامهم، ينبغي للأفراد المطالبة بشفافية مماثلة فيما يتعلق بالقرارات التي يتخذها الذكاء الاصطناعي والتي تؤثر على حياتهم. إنها ليست مجرد مسألة ثقة، بل هي أيضاً شرط أساسي لتطوير برمجيات مسؤولة.

مخاطر الذكاء الاصطناعي ذي الصندوق الأسود

كما يُشير كابس، فإنّ الذكاء الاصطناعي ذو الصندوق الأسود يطرح العديد من المشاكل المتأصلة. أولاً، يُثير تساؤلات حول موثوقية أنظمة الذكاء الاصطناعي ومساءلتها. فإذا كانت آليات عمل نظام الذكاء الاصطناعي مخفية، يصبح من الصعبdentالأخطاء أو العيوب وتصحيحها. وبالتالي، يبقى احتمال حدوث عواقب غير مقصودة أو تحيزات دون معالجة، مما يؤدي إلى تكاليف استبدال باهظة.

يُعدّ اتخاذ قرارات الإفراج المشروط أحد أهم تطبيقات الذكاء الاصطناعي التي تتطلب الشفافية. وتعتمد هذه القرارات غالبًا على بيانات تاريخية قد تنطوي على تحيزات. ويمكن أن تستمر هذه التحيزات عند توسيع نطاقها لتحقيق الكفاءة، مما قد يؤدي إلى نتائج غير عادلة وتمييزية. ويؤكد كابس أنه على الرغم من الرغبة في تبسيط وتسريع إجراءات المحاكم، إلا أنه لا ينبغي أن يكون ذلك على حساب استمرار التحيزات العنصرية.