هلوسات الذكاء الاصطناعي جلبت مشكلة قانونية أخرى لـ OpenAI

قدمت منظمة الخصوصية، Noyb، شكوى ضد OpenAI أمام الهيئة النمساوية لحماية البيانات (DPA) على أساس أن منتجها ChatGPT ينتهك العديد من قوانين حماية البيانات في الاتحاد الأوروبي. قالت المنظمة إن ChatGPT يشارك معلومات غير صحيحة عن الأشخاص، وأن اللائحة العامة لحماية البيانات (GDPR) في الاتحاد الأوروبي تتطلب أن تكون المعلومات عن الأشخاص صحيحة، ويجب تزويدهم بالوصول الكامل إلى المعلومات المتعلقة بهم.

تواجه OpenAI اتهامات بموجب GDPR

تأسست Noyb على يد المحامي والنشطاء المشهورين ماكس شريمز، وزعمت أن ChatGPT شارك تاريخ ميلاد خاطئ لشخصية عامة مشهورة، وعند طلب الإذن بالوصول إلى البيانات المتعلقة به وحذفها، تم رفض طلبه من قبل Open AI.

تقول Noyb إنه وفقًا لـ GDPR في الاتحاد الأوروبي، يجب أن تكون أي معلومات عن أي فرد دقيقة ويجب أن يكون لديهم وصول ومعلومات عن المصدر، ولكن وفقًا لها، تقول OpenAI إنها غير قادرة على تصحيح المعلومات في نموذج ChatGPT الخاص بها. الشركة غير قادرة أيضًا على إخبار من أين جاءت المعلومات، وحتى أنها لا تعرف ما هي البيانات التي يخزنها ChatGPT عن الأفراد. 

تزعم Noyb أن OpenAI على علم بالمشكلة وتبدو وكأنها لا تهتم بها، حيث أن حجتهم حول القضية هي أن،

"تظل الدقة الواقعية في نماذج اللغة الكبيرة مجالًا للبحث النشط."

لاحظت Noyb أن المعلومات الخاطئة قد تكون مقبولة عندما يفرغ ChatGPTها عندما يستخدمها الطلاب في واجباتهم المدرسية، لكنها قالت إنها غير مقبولة بوضوح للأفراد الشخصيين لأنها مطلب لقانون الاتحاد الأوروبي الذي يجب أن تكون البيانات الشخصية دقيقة. 

الهلوسات تجعل روبوتات الدردشة غير متوافقة مع لوائح الاتحاد الأوروبي

ذكرت Noyb أن نماذج الذكاء الاصطناعي عرضة لـ الهلوسات وتقدم معلومات غير صحيحة في الواقع. وقد استفسروا عن الإجراء التقني لـ OpenAI في توليد المعلومات، حيث أشارت إلى أن سبب OpenAI هو،

"الردود على طلبات المستخدمين من خلال التنبؤ بالكلمات الأكثر احتمالاً التي قد تظهر في الاستجابة لكل موجه."

تجادل Noyb بأن هذا يعني أنه على الرغم من حقيقة أن الشركة لديها مجموعات بيانات واسعة متاحة لتدريب نموذجها، إلا أنها لا تزال غير قادرة على ضمان أن الإجابات المقدمة للمستخدمين صحيحة واقعيًا.

قالت محامية حماية البيانات في Noyb، مارتي دي غاف، أن،

"صنع معلومات خاطئة هو مشكلة بحد ذاتها. ولكن عندما يتعلق الأمر بمعلومات خاطئة عن الأفراد، يمكن أن تكون هناك عواقب خطيرة."

المصدر: Noyb.

وقال أيضًا أن أي تقنية يجب أن تتبع القوانين ولا يمكنها اللعب، فوفقًا له، إذا كانت الأداة لا يمكنها إنتاج نتائج صحيحة عن الأفراد، فلا يمكن استخدامها لهذا الغرض، كما أضاف أن الشركات ليست مستقرة تقنيًا بعد لإنشاء روبوتات دردشة يمكنها الامتثال لقوانين الاتحاد الأوروبي في هذا الموضوع.

تخضع أدوات الذكاء الاصطناعي التوليدي لمراقبة صارمة من قبل منظمي الخصوصية الأوروبيين، حيث تم في عام 2023 تقييد حماية البيانات مؤقتًا من قبل الهيئة الإيطالية لحماية البيانات. من غير الواضح ما ستكون عليه النتائج، ولكن وفقًا لـ Noyb، فإن OpenAI لا تدعي حتى أنها ستلتزم بقانون الاتحاد الأوروبي.