"هلوسات" الذكاء الاصطناعي تثير شكوى خصوصية

قدمت منظمة Noyb، وهي منظمة نمساوية مستقلة لحماية البيانات، ومؤسسها المحامي ماكس شريمز، شكوى إلى هيئة الخصوصية الأوروبية بشأن OpenAI – بسبب انتهاك اللائحة العامة لحماية البيانات (GDPR) وفشلها في توفير سبل انتصاف للمعلومات غير الصحيحة.

تقديم شكوى خصوصية

بدأ شريمز، المحامي البارز في مجال الخصوصية والنشطاء القادرين، بعضاً من أهم شكاوى الخصوصية في الاتحاد الأوروبي. تواجه OpenAI هيئة حماية البيانات النمساوية (DSB)، ويركز تحديها على "الهلوسات"، وهي الإجابات الخاطئة التي تميل نماذج اللغات الكبيرة (الذكاء الاصطناعي) إلى تقديمها. وتشمل سبل الانتصاف التي تطلبها أمر التحقيق في الانتهاك، وقراراً بالإقرار، وغرامة، ودراسة للتدابير التصحيحية.

تفيد التقارير أن شركة OpenAI على علم بانتهاك الخصوصية، لكن ذلك لا يهم. ووفقاً للبيان الصحفي، جاء بيان Noyb في بيان يعلن عن تقديم الشكوى.

تقوم النماذج الكبيرة، بما في ذلك ChatGPT، بحسابات للتنبؤ بالكلمات التي تبدو الأكثر منطقية للخيارات المعينة. وهناك حالات يختار فيها النموذج كلمات خاطئة بسبب عدم قدرته على ملاحظة السياق، مما يؤدي إلى إجابة خاطئة أو "هلوسة"، وهو مصطلح صناعي.

ومع ذلك، فإن هذا لا يتماشى مع الحقوق الفردية في تقاليد "الخصوصية"، لذا فإن Noyb ترى أن التنظيم الأوروبي لم يذهب بعيداً بما يكفي في بيان الحاجة إلى دقة البيانات الشخصية منذ عام 1995، وتأخذ اللائحة العامة لحماية البيانات (GDPR)، أحدث قانون للخصوصية في الاتحاد الأوروبي، على عاتقها واجب حماية البيانات الشخصية بدقة.

استهداف "هلوسات" الذكاء الاصطناعي

على هذا النحو، أشارت Noyb إلى أن المعلومات الشخصية لأي خبير عام دون تفاصيل تاريخ الميلاد متاحة عبر الإنترنت. وأجاب ChatGPT بشكل خاطئ بتاريخ ميلاده الرئيسي بسبب الخطأ في السؤال.

لم تكن OpenAI راضية أيضاً عن ردودها غير المستحبة بشأن الوصول إلى البيانات وحذفها فيما يتعلق بالتحقيق في الطلب الذي أُجري في ديسمبر 2023. ووفقاً للائحة العامة لحماية البيانات، يجب على متحكمي البيانات إبلاغ صاحب البيانات الشخصية بمعالجة بياناته وحذف بياناته عند الطلب، مع السماح بفرض قيود على الحذف.

اكتشف Noyb، الذي عمل كمدعٍ في القضية، أن الخدمة قدمت بيانات إحصائية للمستخدم؛ ومع ذلك، لم يتم تقديم أي معلومات حول استخدام النظام للبيانات.

إساءة معالجة طلبات البيانات

كما ذكرت OpenAI، بالإضافة إلى تقديم رسالة تعليمية، وعدت ببذل قصارى جهدها لحظر النموذج من ذكر سنة الميلاد استجابةً للاستفسار؛ ومع ذلك، وفقاً للشكوى، لا يمكنها تصحيح الإجابة المعروضة الخاطئة.

وهذا أدى بدوره إلى حجب الجزء المتعلق بالمعلومات الإضافية من جانب صاحب البيانات عن ChatGPT. وهذا، من حيث المبدأ، يعيق حق الجمهور في الحصول على معلومات حول هذه الشخصية – وهي شخصية معروفة – والتي أبلغ عنها OpenAI عبر اعتراض.

ذكرت الدعوى: "لا يمكن لأي إجراء من روبوت الدردشة تصحيح المعلومات، ولا يمكن لأي مرشح تصفية انتقائية، أو ببساطة أن أي صاحب بيانات لا يمكنه الامتثال لهذا الوضع وفقاً للمتحكم."

أخبرت Noyb رئيسة المنافسة الأوروبية مارغريتي فيستاجر أن الفرع الأيرلندي هو الوحيد، ولا تزال المقر الرئيسي في الولايات المتحدة. وقد تم تسمية هذا المدعى عليه في الدعوى لأنه كيان لشركة الولايات المتحدة OpenAI OpCo LLC، وهو وارد في شروط وأحكام الشركة.