تزايد الطلب على شفافية الذكاء الاصطناعي مع معالجة Howso لذكاء "الصندوق الأسود"

في عالم يقوده بشكل متزايد الذكاء الاصطناعي (AI)، أصبحت الشفافية في عمليات اتخاذ القرار مصدر قلق ملحّ للكثيرين. يؤكد مايك كابس، المؤسس المشارك لشركة Howso، وهي شركة مقرها رالي متخصصة في الذكاء الاصطناعي القابل للتفسير، أنه كما يفحص الناس مكونات طعام إفطارهم، يجب عليهم المطالبة بالشفافية في أنظمة الذكاء الاصطناعي التي تؤثر على جوانب حيوية من حياتهم، مثل الرعاية الصحية والتعليم.

صعود ذكاء "الصندوق الأسود"

لقد أدى الوجود الواسع للذكاء الاصطناعي في حياتنا إلى استخدامه في عمليات اتخاذ قرارات محورية، تتراوح بين الإجراءات الطبية والموافقات الائتمانية وقرارات الإفراج المشروط. غير أن كابز يجادل بأن مشكلة جوهرية في العديد من أنظمة الذكاء الاصطناعي الحالية تكمن في غموضها، ما يُشار إليه غالبًا بـ "الذكاء الاصطناعي الصامت". 

تُصدر هذه الأنظمة أحكامًا نهائية دون تقديم رؤى واضحة حول كيفية التوصل إلى تلك الاستنتاجات، تاركة المستخدمين وأصحاب المصلحة في ظلام بشأن معايير اتخاذ القرار.

تأسست شركة Howso، التي كانت تُعرف سابقًا باسم Diveplane، على يد مايك كابز في عام 2018 بهدف تحدي انتشار الذكاء الاصطناعي الصامت. وتتميز مقاربة الشركة الفريدة للذكاء الاصطناعي، المعروفة بـ "الذكاء الاصطناعي القابل للنسب"، عن غيرها. 

يُمكّن الذكاء الاصطناعي القابل للنسب المستخدمين من تتبع أي قرار إلى نقاط بيانات محددة، مما يجعل عملية اتخاذ القرار شفافة وقابلة للفهم. فعلى سبيل المثال، إذا تم التوصية بإجراء جراحة طبية، يمكن لنظام Howso تحديد أهم 17 نقطة بيانات التي أثرت في هذا القرار، مقدّمًا الوضوح والمساءلة.

لقد وجدت محرك الذكاء الاصطناعي الخاص بـ Howso تطبيقاته عبر مجالات متنوعة. ومن بين عملائه، تتعاون شركة Scanbuy مع تجار التجزئة الكبار للاستفادة من أداة Howso في مجال ذكاء العملاء، مما يمكّن هؤلاء التجار من التنبؤ بتفضيلات العملاء بدقة وشفافية. 

جدير بالذكر أن المؤسسات التعليمية مثل جامعة ولاية نورث كارولينا (N.C. State) وجامعة نورث كارولينا (UNC) قد تبنت أيضًا تقنية Howso لمشاريع محددة، مما يؤكد الطلب المتزايد على الذكاء الاصطناعي الشفاف في الأوساط الأكاديمية.

قرار فتح كود محرك الذكاء الاصطناعي الخاص بـ Howso في سبتمبر يعكس التزام الشركة بتعزيز الشفافية. وتمنح هذه الخطوة المستخدمين القدرة على تصميم منصاتهم الخاصة المدعومة بالذكاء الاصطناعي القابل للتفسير، مما يوسع نطاق انتشار تقنية الذكاء الاصطناعي الشفاف.

عملاء وشراكات بارزة

تشمل قائمة عملاء Howso المذهلة عمالقة الصناعة مثل ماستركارد وشركة Mutua de Madrileña، وهي شركة تأمين إسبانية. بالإضافة إلى ذلك، استغلت إدارة فرجينيا للصحة السلوكية والخدمات التنموية تقنية Howso لتعزيز عمليات اتخاذ القرار. وتُظهر هذه الشراكات مدى قابلية تطبيق أنظمة الذكاء الاصطناعي على نطاق واسع والطلب عليها، خاصة تلك التي تعطي الأولوية للشفافية والمساءلة.

تؤكد كابس على الأهمية الحاسمة للشفافية في الذكاء الاصطناعي، مستشهدة بمقارنة مع ملصقات الأغذية. فمثلما يعتمد المستهلكون على الملصقات الغذائية لاتخاذ خيارات مستنيرة بشأن طعامهم، يجب أن يطالب الأفراد بشفافية مماثلة فيما يتعلق بالقرارات التي يتخذها الذكاء الاصطناعي وتؤثر في حياتهم. الأمر لا يتعلق فقط بالثقة، بل هو أيضًا متطلب جوهري لتطوير برمجيات مسؤولة.

مخاطر الذكاء الاصطناعي المغلق

يُبرز كابس أن الذكاء الاصطناعي المغلق (Black Box) يطرح عدة مشاكل جوهرية. أولًا، يثير تساؤلات حول موثوقية أنظمة الذكاء الاصطناء ومحاسبتها. فإذا كانت الآليات الداخلية لنظام ذكاء اصطناعي مخفية، يصبح من الصعب تحديد الأخطاء أو العيوب وإصلاحها. ونتيجة لذلك، تظل احتمالية حدوث عواقب غير مقصودة أو تحيزات دون معالجة، مما يؤدي إلى تكاليف استبدال كبيرة.

تطبيق واحد حاسم بشكل خاص للذكاء الاصطناعي حيث تكون الشفافية حيوية هو في قرارات الإفراج المشروط. غالبًا ما تعتمد هذه التحديدات على بيانات تاريخية قد تحتوي على تحيزات. يمكن أن تتكرر هذه التحيزات عند توسيع نطاقها للكفاءة، مما قد يؤدي إلى نتائج غير عادلة ومميزة. يؤكد كابس أنه بينما هناك رغبة في تبسيط وتسريع عمليات المحاكم، إلا أن ذلك لا يجب أن يأتي على حساب استمرار التحيز العنصري.