الحكومة البريطانية ليست شفافة بشأن استخدام الذكاء الاصطناعي يقول وزير التكنولوجيا

تفيد التقارير أن الحكومة البريطانية لا تسجل استخدام أنظمة الذكاء الاصطناعي في السجلات الإلزامية، مما يثير مخاوف بشأن قضايا الشفافية.

ووفقاً لـ The Guardian، اعترف وزير التكنولوجيا منذ ذلك الحين بأن الأقسام ليست شفافة بشأن استخدامها للذكاء الاصطناعي والخوارزميات على الرغم من استخدام أقسام حكومية مختلفة له لأغراض متنوعة.

أقسام الحكومة البريطانية 'تطير عمياء' بشأن استخدام الذكاء الاصطناعي

يكشف مقال The Guardian أن لا قسم واحد من الأقسام المدرجة ذكر استخدام الذكاء الاصطناعي منذ أن أشارت الحكومة إلى أنه سيصبح إلزامياً. وقد أثار هذا مخاوف من أن القطاع العام 'يطير عمياء'.

يأتي هذا بينما تستخدم أقسام الحكومة بالفعل الذكاء الاصطناعي في المملكة المتحدة، على سبيل المثال، لإبلاغ القرارات في كل شيء من مدفوعات المزايا إلى إنفاذ الهجرة. ووفقاً لـ The Guardian، تظهر بعض السجلات أن الهيئات العامة منحت عقوداً لخدمات الخوارزميات الذكية.

على سبيل المثال، وضعت هيئة المشتريات التابعة للشرطة مؤخراً عقداً للتعرف على الوجه بقيمة 20 مليون دولار، مما يثير مزيداً من المخاوف بشأن 'المراقبة البيومترية الشاملة'.

ومع ذلك، تم تقديم تسعة أنظمة خوارزمية فقط إلى سجل عام، مع عدم وجود أي من عدد متزايد من برامج الذكاء الاصطناعي المستخدمة في نظام الرعاية الاجتماعية من قبل وزارة الداخلية أو من قبل الشرطة. في فبراير، أعلنت الحكومة البريطانية أن استخدام سجلات الذكاء الاصطناعي سيكون الآن 'متطلباً لجميع أقسام الحكومة'.

وعند سؤاله عن نقص الشفافية، اعترف وزير العلوم والتكنولوجيا بيتر كايل بأن القطاع العام 'لم يأخذ على محمل الجد الكافي الحاجة إلى الشفافية في طريقة استخدام الحكومة للخوارزميات'.

'أقبل أن الجمهور له الحق في معرفة ذلك إذا كانت الحكومة تستخدم الخوارزميات نيابة عن الجمهور.'

كايل.

'يحتاج الجمهور إلى الشعور بأن الخوارزميات موجودة لخدمتهم وليس العكس. الطريقة الوحيدة للقيام بذلك هي أن تكون شفافاً بشأن استخدامها،' وأضاف كايل.

تجاهلت الحكومة البريطانية التحذيرات

ووفقاً لمقال The Guardian، حذر الخبراء من مخاطر الذكاء الاصطناعي إذا تم اعتماده دون نقد، مع أمثلة حديثة لأنظمة تكنولوجيا المعلومات التي لم تعمل كما هو مقصود، بما في ذلك برنامج Horizon التابع لبريد المملكة المتحدة.

يتمدد استخدام تقنية الذكاء الاصطناعي في وايت هال من نظام Microsoft Copilot إلى فحوصات الاحتيال والأخطاء الآلية في نظام المزايا. وصف إشعار عقد ذكاء اصطناعي حديث آخر من قبل وزارة العمل والمعاشات (DWP) 'تضخم الاهتمام داخل DWP، والذي يعكس ذلك في الحكومة والمجتمع الأوسع'.

بخلاف الشرطة، تستخدم وزارة الداخلية أيضاً نظام إنفاذ هجرة مدعوم بالذكاء الاصطناعي. هذا النظام، الذي يصفه النقاد بـ 'عامل الروبوت'، يشارك في تشكيل القرارات بما في ذلك إعادة الأشخاص إلى بلدانهم الأصلية.

وصفتها الحكومة ومع ذلك كنظام 'قائم على القواعد' بدلاً من نظام ذكاء اصطناعي لأنه لا يتضمن تعلم الآلة من البيانات. ووفقاً للحكومة، فإن هذا يجلب كفاءات على الرغم من بقاء الإنسان مسؤولاً عن كل قرار.

تقرير NHS England أيضاً في عقد بقيمة 330 مليون جنيه إسترليني مع Palantir لبناء منصة بيانات جديدة ضخمة مما يثير مزيداً من المخاوف بشأن خصوصية المرضى. قالت Palantir إن المرضى يحتفظون بالتحكم في البيانات.

سلطت مجموعة الدفاع عن حقوق الخصوصية Big Brother Watch الضوء على ظهور عقد التعرف على الوجه من قبل الشرطة، على الرغم من تحذير النواب من نقص التشريعات لتنظيمه، مما أظهر نقص الشفافية في الحكومة بشأن استخدام تقنية الذكاء الاصطناعي.

'الاستخدام السري للذكاء الاصطناعي والخوارزميات لتأثير حياة الناس يعرض حقوق بيانات الجميع للخطر،' قالت Madeleine Stone، كبيرة مسؤولي الدعوة.

'يجب أن تكون أقسام الحكومة منفتحة وصادقة حول كيفية استخدامهم لهذه التكنولوجيا.'

Stone.

أعربت Imogen Parker، المديرة المشاركة في هيئة أبحاث البيانات والذكاء الاصطناعي، أيضاً عن مخاوفها بشأن نقص الشفافية.

'نقص الشفافية لا يبقي الجمهور في الظلام فحسب، بل يعني أيضاً أن القطاع العام يطير عمياء في اعتماده على الذكاء الاصطناعي.'

Parker.

'فشل نشر سجلات شفافية الخوارزميات يحد من قدرة القطاع العام على تحديد ما إذا كانت هذه الأدوات تعمل، والتعلم مما لا ينجح، ومراقبة التأثيرات الاجتماعية المختلفة لهذه الأدوات،' أضافت Parker.