شكوى خصوصية تطال ChatGPT بسبب الهلوسات التشهيرية

تخضع الدردشة الآلية الخاصة بـ OpenAI، ChatGPT، للتحقيق في أوروبا بسبب شكاوى الخصوصية. أظهرت ميلاً للهلوسة بمعلومات خاطئة. هل هذا خطير؟ قد يكون من الصعب على المنظمين تجاهل هذه الحالة.

يحصل شخص في النرويج على مساعدة من المركز الأوروبي للحقوق الرقمية، Noyb، بعد أن وجد أن ChatGPT يعيد معلومات خاطئة. قال الدردشة الآلية إنه تم إدانته بقتل طفلين ومحاولة قتل طفل ثالث. قد يلحق هذا المعلومات به لاحقاً.

الجزء المثير للدهشة هو أن OpenAI لا تقدم للناس طريقة لتصحيح المعلومات الخاطئة التي يخترعها الذكاء الاصطناعي حولهم. بدلاً من ذلك، تقدم OpenAI حجب الإجابات على هذه الأنواع من الأسئلة. السؤال الرئيسي هو ما إذا كانت المعلومات سيتم تجاهلها أم يمكن توليدها لاحقاً.

من ناحية أخرى، تمنح اللائحة العامة لحماية البيانات (GDPR) التابعة للاتحاد الأوروبي الناس الوصول إلى بياناتهم والحق في تصحيح بياناتهم الشخصية. وتنص جزء آخر من قانون أمن البيانات هذا على أن الأشخاص المسؤولين عن البيانات الشخصية يجب أن يضمنوا دقتها. وهذا يجعل هذه القضية حالة مهمة.

قال جوأكيم سودربرغ، محامي حماية البيانات في Noyb، "إن اللائحة العامة لحماية البيانات (GDPR) واضحة. البيانات الشخصية يجب أن تكون دقيقة. […] إذا لم تكن كذلك، فإن للمستخدمين الحق في طلب تعديلها لتعكس الحقيقة."

وأضاف، "إظهار تنبيه صغير لمستخدمي ChatGPT مفاده أن الدردشة الآلية يمكن أن ترتكب أخطاء لا يكفي بوضوح. لا يمكنك ببساطة نشر معلومات خاطئة وإضافة تنبيه صغير في النهاية يقول إن كل ما قلته قد لا يكون صحيحاً."

تفاصيل التحقيقات الجارية

تروي الدردشة الآلية قصة حزينة عن Arve Hjalmar Holmen عند سؤاله عن هويته. تقول إنه تم إدانته بقتل الأطفال وحكم عليه بالسجن 21 عاماً لقتل طفلين من أطفاله.

الآن، لماذا هذا أكثر خطورة؟ على الرغم من أن هجمار هولمن ليس قاتلاً للأطفال، تشير Noyb إلى أن إجابة ChatGPT تتضمن بعض الحقائق. على سبيل المثال، للشخص المذكور ثلاثة أطفال بالفعل.

كما حددت الدردشة الآلية بشكل صحيح جنس أطفاله وسمت مسقط رأسه بشكل صحيح. ومع ذلك، فإن حقيقة أن الذكاء الاصطناعي اخترع أيضاً أكاذيب فظيعة تجعل الأمر غريباً ومزعجاً أكثر.

قال ممثل من Noyb إنهم لا يعرفون سبب اختراع الدردشة الآلية لخلفية مفصلة ولكن خاطئة لهذا الشخص. وقالت متحدثة باسمهم إنهم أجروا بحثاً للتأكد من أنها ليست مجرد خلط مع شخص آخر. وقالت المتحدثة إنهم بحثوا في أرشيفات الصحف لكنهم لم يجدوا سبباً لاختراع الذكاء الاصطناعي لقتل الأطفال.

في هذه المرحلة، أفضل تفسير هو أن نماذج اللغة الكبيرة، مثل تلك التي تشغل ChatGPT، تقوم أساساً بالتنبؤ بالكلمة التالية على نطاق هائل. 

بسبب هذا، احتوت مجموعات البيانات المستخدمة لتدريب الأداة على العديد من قصص قتل الأبناء التي أثرت على الكلمات التي اختارتها للإجابة على سؤال حول رجل معين. ومع ذلك، بغض النظر عن السبب، من الواضح أن هذه المخرجات ليست مقبولة على الإطلاق.

وفي الوقت نفسه، تقول Noyb إن الدردشة الآلية توقفت عن نشر أكاذيب خطيرة حول هجمار هولمن بعد تحديث النموذج الذكي الذي يشغلها. يرتبط هذا التغيير بحقيقة أن الأداة تبحث الآن في الإنترنت عن معلومات عن الأشخاص عند سؤالها عن هويتهم.

على الرغم من أن ChatGPT يبدو أنه توقف عن نشر أكاذيب ضارة حول هجمار هولمن، فإن كل من Noyb وهجمار هولمن لا يزالان قلقين. ماذا لو احتفظ نموذج الذكاء الاصطناعي بمعلومات خاطئة وضارة عنه؟

تلقت هيئة حماية البيانات النرويجية شكوى ضد OpenAI. تأمل Noyb أن تقرر هيئة الرقابة أنها تملك السلطة للتحقيق لأن الشكوى موجهة إلى الفرع الأمريكي لـ OpenAI. تنص الشكوى على أن مكتبها في أيرلندا ليس مسؤولاً وحيداً عن قرارات المنتج التي تؤثر على الأوروبيين.

مصير OpenAI

لم تكن هذه المرة الأولى لـ OpenAI. فقد اشتكى الناس سابقًا من إنشاء ChatGPT لبيانات شخصية غير صحيحة، مثل تاريخ ميلاد خاطئ أو معلومات سيرة ذاتية غير دقيقة. 

تدخلت هيئة حماية البيانات الإيطالية مبكرًا بموجب اللائحة العامة لحماية البيانات (GDPR) وعلقت مؤقتًا الوصول إلى ChatGPT في البلاد في ربيع عام 2023. أدى ذلك إلى تغيير OpenAI لأمور معينة، مثل المعلومات التي تقدمها للمستخدمين. بعد ذلك، غرّمت الهيئة OpenAI بمبلغ 15 مليون يورو لاستخدامها بيانات الأشخاص دون سبب مشروع.

من المثير للاهتمام أيضًا أن هيئة حماية البيانات البولندية كانت تبحث في شكوى خصوصية ضد ChatGPT منذ سبتمبر 2023 ولم تتخذ قرارًا بعد.

منذ ذلك الحين، أصبح مسؤولو الخصوصية في أوروبا أكثر حذرًا بشأن الذكاء الاصطناعي التوليدي (GenAI). ويعود ذلك إلى أنهم لا يزالون يحددون أفضل طريقة لتطبيق اللائحة العامة لحماية البيانات (GDPR) على أدوات الذكاء الاصطناعي الشائعة هذه.

ومع ذلك، في شكوى سابقة بشأن Noyb وChatGPT، قالت لجنة حماية البيانات الأيرلندية (DPC) قبل عامين إن الناس لا ينبغي أن يسرعوا في حظر أدوات الذكاء الاصطناعي التوليدي، على سبيل المثال. وتتمثل مهمة DPC في إنفاذ اللائحة العامة لحماية البيانات (GDPR). وبدلاً من ذلك، يعني ذلك أن على المسؤولين أخذ بعض الوقت لتحديد كيفية عمل القانون.

يبدو أن الشكوى الجديدة من Noyb ضد ChatGPT تهدف إلى إيقاظ مسؤولي الخصوصية من مخاطر الذكاء الاصطناعي الذي يهذي (يبتكر معلومات غير حقيقية). يمكن أن تؤدي الانتهاكات المؤكدة للائحة العامة لحماية البيانات (GDPR) إلى غرامات تصل إلى 4% من إجمالي المبيعات السنوية العالمية.