Open AI's chatbot ، chatgpt ، قيد التحقيق في أوروبا بسبب شكاوى الخصوصية. لقد أظهر ميلًا إلى هلوسة معلومات خاطئة. خطير ، لا؟ هذا قد يكون من الصعب على المنظمين تجاهلها.
يحصل الشخص في النرويج على مساعدة من المركز الأوروبي للحقوق الرقمية ، NOYB ، بعد العثور على chatgpt لإعادة معلومات خاطئة. قال chatbot إنه أدين بقتل اثنين من أولاده ويحاول قتل الثلث. هذه المعلومات يمكن أن اللحاق به لاحقًا.
الجزء المجنون هو أن Openai لا يمنح الناس طريقة لتصحيح المعلومات الخاطئة التي يعوضها الذكاء الاصطناعى عنها. بدلاً من ذلك ، يقدم Openai منع إجابات على هذه الأنواع من الأسئلة. والسؤال الرئيسي هو ما إذا تم التخلص من المعلومات أو يمكن إنشاؤها لاحقًا.
من ناحية أخرى ، تتيح لائحة حماية البيانات العامة (GDPR) للاتحاد الأوروبي الوصول إلى بياناتهم والحق في تصحيح بياناتهم الشخصية. يقول جزء آخر من قانون أمن البيانات هذا أن الأشخاص المسؤولين عن البيانات الشخصية يجب أن يتأكدوا من أنه صحيح. هذا يجعل هذه القضية قضية.
وقال جواكيم سوديربرغ ، محامي حماية البيانات في NOYB ، "الناتج المحلي الإجمالي واضح. يجب أن تكون البيانات الشخصية دقيقة. [...] إذا لم يكن الأمر كذلك ، فإن المستخدمين يحقون تغييرها لتعكس الحقيقة".
وأضاف: "إن عرض مستخدمي ChatGPT إخلاءًا صغيرًا على أن chatbot يمكن أن يرتكب أخطاء بوضوح لا يكفي. لا يمكنك فقط نشر معلومات خاطئة وفي النهاية أضف إخلاءًا صغيرًا يقول إن كل ما قلته قد لا يكون صحيحًا".
تفاصيل التحقيقات المستمرة
يروي Chatbot قصة حزينة عن Arve Hjalmar Holmen عندما سئل من هو. تقول أنه أدين بقتل الأطفال ومنح 21 عامًا في السجن لقتله اثنين من أطفاله.
الآن ، لماذا هذا أكثر خطورة؟ على الرغم من أنه ليس صحيحًا أن Hjalmar Holmen هو قاتل طفل ، إلا أن Noyb يشير إلى أن إجابة Chatgpt تشمل بعض الحقائق. على سبيل المثال ، لدى الشخص المعني ثلاثة أطفال.
chatbot أيضًا بشكل صحيح ، لقدdentمن الجنسين لأطفاله ودعا مسقط رأسه بشكل صحيح. ومع ذلك ، فإن حقيقة أن الذكاء الاصطناعى اخترع مثل هذه الأكاذيب الرهيبة يجعل الأمر غريبًا وأكثر إثارة للقلق.
قال ممثل NOYB إنهم لا يعرفون سبب قيام chatbot بتكوين خلفية مفصلة ولكنها خاطئة لهذا الشخص. قال متحدث باسمهم إنهم قاموا بالبحث للتأكد من أنه لم يكن مجرد مزيج مع شخص آخر. قال المتحدث باسم أنهم نظروا من خلال أرشيف الصحف لكنهم لم يتمكنوا من إيجاد سبب يجعل الذكاء الاصطناعى القتل الطفل.
في هذه المرحلة ، فإن أفضل تفسير هو أن نماذج اللغات الكبيرة ، مثل النماذج التي تشغل ChatGpt ، تقوم بشكل أساسي بتنبؤ بكلمة تالية على نطاق واسع.
ولهذا السبب ، فإن مجموعات البيانات المستخدمة لتدريب الأداة تحتوي على العديد من قصص المبيد التي أثرت على الكلمات التي اختارت الإجابة على سؤال حول رجل مسمى. ومع ذلك ، بغض النظر عن السبب ، من الواضح أن هذه الأنواع من المخرجات ليست على ما يرام على الإطلاق.
يقول نويب chatbot توقف عن إخبار الأكاذيب الخطرة عن Hjalmar Holmen بعد طراز AI الذي يتم تشغيله. يرتبط هذا التغيير بحقيقة أن الأداة تبحث الآن عن الإنترنت للحصول على معلومات حول الأشخاص عندما يتم سؤالها عن من هم.
على الرغم من أن Chatgpt يبدو أنه توقف عن نشر أكاذيب ضارة حول Hjalmar Holmen ، إلا أن كل من Noyb و Hjalmar Holmen لا يزالون قلقين. ماذا لو كان نموذج الذكاء الاصطناعى قد حافظ على معلومات خاطئة ومدمرة عنه؟
تلقت هيئة حماية البيانات النرويجية شكوى ضد Openai. يأمل Noyb أن تقرر هيئة الرقابة أن تتمتع بسلطة التحقيق لأن الشكوى تهدف إلى فرع Openai في الولايات المتحدة. تنص الشكوى على أن مكتبها في أيرلندا ليس مسؤولاً فقط عن قرارات المنتجات التي تؤثر على الأوروبيين.
مصير Openai
هذا ليس الأول لـ Openai. سبق أن اشتكى الأشخاص من إنشاء بيانات شخصية غير صحيحة ، مثل تاريخ الميلاد الخاطئ أو معلومات السيرة الذاتية غير الصحيحة.
صعد مراقبة حماية البيانات في إيطاليا في وقت مبكر بموجب الناتج المحلي الإجمالي وتوقفت مؤقتًا عن وصول الدردشة في البلاد في ربيع عام 2023. هذا تسبب في تغيير Openai الأشياء ، مثل المعلومات التي يقدمها للمستخدمين. بعد ذلك ، قامت Watchdog بتغريم Openai 15 مليون يورو لاستخدام بيانات الأشخاص دون سبب وجيه للقيام بذلك.
من المثير للاهتمام أيضًا أن مراقبة حماية البيانات في بولندا كانت تبحث في شكوى خصوصية ضد ChatGPT منذ سبتمبر 2023 وما زالت لم تتخذ قرارًا.
منذ ذلك الحين ، أصبح مسؤولو الخصوصية في أوروبا أكثر حذراً من Genai. هذا لأنهم ما زالوا يعرفون أفضل طريقة لتطبيق الناتج المحلي الإجمالي على أدوات الذكاء الاصطناعى الشهيرة هذه.
ومع ذلك ، في شكوى سابقة حول NOYB ChatGPT ، قالت لجنة حماية البيانات في أيرلندا (DPC) قبل عامين أنه لا ينبغي أن يندفع الناس إلى حظر أدوات Genai ، على سبيل المثال. DPC هو المسؤول عن فرض الناتج المحلي الإجمالي. بدلاً من ذلك ، هذا يعني أنه يجب على المسؤولين قضاء بعض الوقت لمعرفة كيفية عمل القانون.
يبدو أن شكوى ChatGpt الجديدة من Noyb تهدف إلى استيقاظ مسؤولي الخصوصية على مخاطر AIS التي تهدأ. يمكن أن تؤدي الانتهاكات المؤكدة للناتج المحلي الإجمالي إلى غرامات تصل إلى 4 ٪ من دوران سنوي عالمي.
سلك الفرق الرئيسي : تستخدم مشاريع التشفير السرية للأداة للحصول على تغطية إعلامية مضمونة
