تلقى موقع ChatGPT شكوى تتعلق بالخصوصية بسبب الهلوسات التشهيرية

يخضع برنامج الدردشة الآلي ChatGPT التابع لشركة Open AI للتحقيق في أوروبا بسبب شكاوى تتعلق بالخصوصية، إذ أظهر ميلاً إلى توليد معلومات خاطئة. أليس هذا خطيراً؟ قد يصعب على الجهات التنظيمية تجاهل هذه القضية.

يتلقى شخص في النرويج المساعدة من المركز الأوروبي للحقوق الرقمية ( نويب) بعد أن اكتشف أن برنامج الدردشة الآلي (ChatGPT) يُقدّم معلومات خاطئة. فقد زعم البرنامج أنه أُدين بقتل اثنين من أبنائه ومحاولة قتل ثالث، وأن هذه المعلومات قد تُعرّضه للمساءلة القانونية لاحقًا.

الأمر الغريب هو أن OpenAI لا توفر للمستخدمين طريقة لتصحيح المعلومات الخاطئة التي يختلقها الذكاء الاصطناعي عنهم. بل تقدم OpenAI خيار حجب الإجابات على هذا النوع من الأسئلة. والسؤال الأهم هو: هل تُحذف هذه المعلومات نهائيًا أم يمكن توليدها لاحقًا؟.

من جهة أخرى، يمنح النظام العام لحماية البيانات (GDPR) التابع للاتحاد الأوروبي الأفراد حق الوصول إلى بياناتهم الشخصية وتصحيحها. كما ينص جزء آخر من هذا القانون على ضرورة أن يتأكد المسؤولون عن البيانات الشخصية من صحتها. وهذا ما يجعل هذه المسألة قضيةً جديرة بالاهتمام.

قال يواكيم سودربيرغ، محامي حماية البيانات في شركة نويب: "إن اللائحة العامة لحماية البيانات واضحة. يجب أن تكون البيانات الشخصية دقيقة. [...] إذا لم تكن كذلك، يحق للمستخدمين تغييرها لتعكس الحقيقة."

وأضاف: "إنّ مجرد إظهار تنبيه صغير لمستخدمي ChatGPT يُفيد بأنّ برنامج الدردشة الآلي قد يرتكب أخطاءً ليس كافيًا. لا يمكنك ببساطة نشر معلومات خاطئة ثم إضافة تنبيه صغير في النهاية يقول إنّ كل ما قلته قد لا يكون صحيحًا."

تفاصيل التحقيقات الجارية

يروي برنامج الدردشة الآلي قصةً حزينةً عن آرف هيالمار هولمن عندما يُسأل عن هويته. يقول إنه أُدين بقتل طفلين وحُكم عليه بالسجن 21 عامًا لقتله اثنين من أبنائه.

والآن، لماذا يُعدّ هذا الأمر أكثر خطورة؟ على الرغم من عدم صحة اتهام هيالمار هولمن بقتل الأطفال، يشير نويب إلى أن إجابة ChatGPT تتضمن بعض الحقائق. على سبيل المثال، الشخص المعني لديه ثلاثة أطفال.

كما أن برنامج الدردشة الآليdentجنس أطفاله بشكل صحيح، وذكر اسم مسقط رأسه بدقة. ومع ذلك، فإن حقيقة أن الذكاء الاصطناعي قد اختلق مثل هذه الأكاذيب الفظيعة تجعل الأمر أكثر غرابة وإثارة للقلق.

قال ممثل شركة نويب إنهم لا يعلمون سبب اختلاق برنامج الدردشة الآلي لمعلومات مفصلة ومضللة عن هذا الشخص. وأوضح متحدث باسم الشركة أنهم أجروا بحثًا للتأكد من عدم وجود خطأ في التواصل مع شخص آخر. وأضاف المتحدث أنهم راجعوا أرشيفات الصحف لكنهم لم يجدوا تفسيرًا لاختلاق الذكاء الاصطناعي لجريمة قتل الطفل.

في هذه المرحلة، أفضل تفسير هو أن نماذج اللغة الكبيرة، مثل النموذج الذي يشغل ChatGPT، تقوم أساسًا بالتنبؤ بالكلمة التالية على نطاق واسع. 

لهذا السبب، احتوت مجموعات البيانات المستخدمة لتدريب الأداة على العديد من قصص قتل الأبناء، مما أثر على الكلمات التي اختارتها للإجابة عن سؤال يتعلق برجل محدد. ومع ذلك، وبغض النظر عن السبب، فمن الواضح أن هذا النوع من النتائج غير مقبول على الإطلاق.

في غضون ذلك، يقول نويب إن برنامج الدردشة الآلي توقف عن نشر أكاذيب خطيرة حول هيالمار هولمن بعد تحديث نموذج الذكاء الاصطناعي الذي يُشغّله. ويرتبط هذا التغيير بحقيقة أن الأداة تبحث الآن على الإنترنت عن معلومات حول الأشخاص عندما يُسألون عن هويتهم.

على الرغم من أن برنامج ChatGPT يبدو أنه توقف عن نشر الأكاذيب الضارة حول هيالمار هولمن، إلا أن نويب وهيالمار هولمن ما زالا قلقين. ماذا لو احتفظ نموذج الذكاء الاصطناعي بمعلومات خاطئة ومُضرة عنه؟

تلقت هيئة حماية البيانات النرويجية شكوى ضد شركة OpenAI. ويأمل نويب أن تقرر الهيئة أنها مخولة بالتحقيق، نظرًا لأن الشكوى موجهة إلى فرع OpenAI في الولايات المتحدة. وتنص الشكوى على أن مكتب الشركة في أيرلندا ليس المسؤول الوحيد عن قرارات المنتجات التي تؤثر على الأوروبيين.

مصير OpenAI

هذه ليست المرة الأولى التي يحدث فيها هذا مع OpenAI. فقد سبق أن اشتكى الناس من قيام ChatGPT بإنشاء بيانات شخصية غير صحيحة، مثل تاريخ ميلاد خاطئ أو معلومات سيرة ذاتية غير صحيحة. 

تدخلت هيئة حماية البيانات الإيطالية مبكراً بموجب اللائحة العامة لحماية البيانات (GDPR) وأوقفت مؤقتاً الوصول إلى خدمة ChatGPT في البلاد ربيع عام 2023. دفع هذا الإجراء شركة OpenAI إلى تغيير بعض الأمور، مثل المعلومات التي تقدمها للمستخدمين. بعد ذلك، فرضت الهيئة غرامة على OpenAI قدرها 15 مليون يورو لاستخدامها بيانات المستخدمين دون مبرر قانوني.

ومن المثير للاهتمام أيضاً أن هيئة مراقبة حماية البيانات في بولندا تنظر في شكوى تتعلق بالخصوصية ضد ChatGPT منذ سبتمبر 2023 ولم تتخذ قراراً بعد.

منذ ذلك الحين، أصبح مسؤولو الخصوصية في أوروبا أكثر حذراً من الذكاء الاصطناعي العام. ويعود ذلك إلى أنهم ما زالوا يبحثون عن أفضل السبل لتطبيق اللائحة العامة لحماية البيانات على أدوات الذكاء الاصطناعي الشائعة هذه.

مع ذلك، في شكوى سابقة بشأن برنامج Noyb ChatGPT، صرّحت مفوضية حماية البيانات الأيرلندية قبل عامين بأنه لا ينبغي التسرّع في حظر أدوات الذكاء الاصطناعي العام، على سبيل المثال. تتولى المفوضية مسؤولية تطبيق اللائحة العامة لحماية البيانات (GDPR). بدلاً من ذلك، يعني هذا أنه ينبغي على المسؤولين التريّث وفهم كيفية تطبيق القانون.

يبدو أن شكوى نويب الجديدة ضد ChatGPT تهدف إلى تنبيه مسؤولي حماية البيانات إلى مخاطر الذكاء الاصطناعي الذي يُوهم الآخرين. ويمكن أن تؤدي الانتهاكات المؤكدة للائحة العامة لحماية البيانات (GDPR) إلى غرامات تصل إلى 4% من الإيرادات السنوية العالمية.