"هلوسات" الذكاء الاصطناعي تثير شكوى تتعلق بالخصوصية

Noyb النمساوية المستقلةdent البيانات، التي أسسها المحامي ماكس شريمز، بتقديم شكوى إلى هيئة الخصوصية التابعة للاتحاد الأوروبي بشأن OpenAI - انتهاك اللائحة العامة لحماية البيانات وعدم توفير سبيل انتصاف للمعلومات غير الصحيحة.

تم تقديم شكوى تتعلق بالخصوصية

شريمز، المحامي البارز في مجال الخصوصية والناشط المتمكن، هو من رفع بعض أهم دعاوى انتهاك الخصوصية في الاتحاد الأوروبي. وتواجه شركة OpenAI هيئة مكافحة التمييز والهيمنة النمساوية (DSB)، التي تركز دعواها على "الوهم"، أي الإجابات الخاطئة التي تميل نماذج اللغة الكبيرة للذكاء الاصطناعي إلى تقديمها. وتشمل مطالب أمر التحكيم التحقيق في الانتهاك، وإصدار قرار توضيحي، وتحديد عقوبة، ودراسة التدابير التصحيحية.

يُزعم أن شركة OpenAI على علم بانتهاك الخصوصية، لكن هذا لا يُغير شيئًا. ووفقًا للبيان الصحفي، فإن تصريح نويب جاء ضمن بيان يُعلن فيه عن رفع الدعوى.

تُجري النماذج الكبيرة، بما فيها ChatGPT، حساباتٍ للتنبؤ بالكلمات الأكثر ملاءمةً لخياراتٍ مُحددة. وفي بعض الحالات، قد يختار النموذج كلماتٍ خاطئةً لعدم قدرته على إدراك السياق، مما يُعطي إجابةً خاطئةً أو "وهمًا"، وهو مصطلحٌ شائعٌ في هذا المجال.

لكن هذا لا يتوافق مع الحقوق الفردية في تقاليد "الخصوصية"، بالنسبة لنويب. لم يقطع التنظيم الأوروبي شوطاً كبيراً في التأكيد على ضرورة دقة البيانات الشخصية منذ عام 1995، ويتولى قانون حماية البيانات العامة (GDPR)، وهو أحدث قانون للخصوصية في الاتحاد الأوروبي، مسؤولية حماية البيانات الشخصية بدقة.

استهداف "الهلوسات" الناتجة عن الذكاء الاصطناعي

وفي هذا السياق، أشار نويب إلى أن المعلومات الشخصية لأي شخصية عامة، باستثناء تاريخ الميلاد، متاحة على الإنترنت. وقد ردّ فريق ChatGPT عن طريق الخطأ بتاريخ ميلادهم الرئيسي نتيجة خطأ في السؤال.

لم تكن شركة OpenAI راضية أيضاً عن ردهم غير المرغوب فيه بشأن الوصول إلى البيانات ومحوها، وهو ما تضمنه التحقيق في الطلب الذي تم إجراؤه في ديسمبر 2023. وبموجب اللائحة العامة لحماية البيانات (GDPR)، يجب على مراقبي البيانات إبلاغ صاحب المعلومات الشخصية بشأن معالجة بياناته ومحو بياناته بناءً على طلبه، مع السماح بفرض قيود على الحذف.

نويب، الذي عمل كمشتكي في القضية، أن الخدمة زودت المستخدم ببيانات إحصائية؛ ومع ذلك، لم يتم تقديم أي معلومات عن استخدام البيانات من قبل النظام.

سوء التعامل مع طلبات البيانات

وكما ذكرت شركة OpenAI، فإنه بالإضافة إلى تقديم رسالة تعليمية، فقد وعدوا ببذل قصارى جهدهم لمنع النموذج من إخبار سنة الميلاد استجابةً للاستعلام؛ ومع ذلك، وفقًا للشكوى، لا يمكنهم تصحيح الإجابة الخاطئة المعروضة.

وقد أدى ذلك بدوره إلى حجب جزء أكبر من معلومات صاحب البيانات عن منصة ChatGPT. وهذا، في جوهره، من شأنه أن يعيق حق الجمهور في الحصول على معلومات عن هذا الشخص - وهو شخصية معروفة - والذي أبلغت عنه OpenAI عبر اعتراض.

وجاء في الادعاء: "لا يمكن لأي إجراء من روبوت الدردشة تصحيح المعلومات، ولا يمكن لأي مرشح الفرز بشكل انتقائي، أو ببساطة لا يمكن لأي شخص معني بالبيانات الامتثال لهذا الوضع وفقًا للمتحكم".

أوضح نويب لمفوضة مكافحة الاحتكار في الاتحاد الأوروبي، مارغريت فيستاغر، أن هذا الفرع الأيرلندي هو الوحيد، بينما لا يزال المقر الرئيسي للشركة في الولايات المتحدة. وقد ذُكر اسم هذا المدعى عليه في الدعوى لأنه كيان تابع لشركة OpenAI OpCo LLC الأمريكية، وهو ما تنص عليه شروط وأحكام الشركة.