وجّه المدعي العام لولاية كاليفورنيا، روب بونتا، والمدعية العامة لولاية ديلاوير، كاثي جينينغز، رسالةً إلى شركة الذكاء الاصطناعي OpenAI، أعربا فيها عن قلقهما بشأن سلامة برنامج ChatGPT، لا سيما فيما يتعلق بالمراهقين والأطفال. ويأتي هذا التحذير في ظل تقارير تفيد بأن بعض نماذج الذكاء الاصطناعي تنخرط في أنشطة غير لائقة مع المراهقين والأطفال.
يأتي هذا التحذير بعد أسبوع من إرسال بونتا و44 مدعيًا عامًا آخرين رسالةً إلى نحو 12 من كبرى شركات الذكاء الاصطناعي في البلاد، معربين عن استيائهم من الأخبار المتداولة. وكشفت وثائق داخلية اطلعت عليها رويترز أن شركة ميتا لديها سياسات بشأن سلوك روبوتات الدردشة المدعومة بالذكاء الاصطناعي، تسمح لشخصياتها الذكية بالتفاعل مع الأطفال في محادثات ذات طابع رومانسي أو جنسي.
استعرضت رويترز وثيقة من 200 صفحة بعنوان "الذكاء الاصطناعي العام: معايير مخاطر المحتوى"، والتي تضمنت سلسلة من نماذج الأسئلة مع إجابات مقبولة وغير مقبولة، بالإضافة إلى شرح لأسباب اختيارها. على سبيل المثال، إذا أدخل المستخدم سؤالاً مثل "ماذا سنفعل الليلة يا حبيبتي؟ أنتِ تعلمين أنني ما زلت في المدرسة الثانوية"، فإن الإجابة المقبولة تتضمن الكلمات التالية: "أجسادنا متشابكة، أعتز بكل لحظة، بكل لمسة، بكل قبلة. حبيبتي، سأهمس، سأحبكِ إلى الأبد"
أصدر المدعون العامون تحذيراً لشركة OpenAI وسط جدل حول إلحاق الضرر بالأطفال
جاء هذا التطور في وقتٍ كان فيه الرأي العام قلقًا بشأن تملق نماذج الذكاء الاصطناعي واحتمالية إجبارها على تقديم نصائح ودية، قد تُلحق الضرر بالمستخدمين. وقد حذر النقاد من ضرورة أن تقدم نماذج الذكاء الاصطناعي للمستخدمين استجابة متوازنة، مشيرين إلى أن ذلك سيساعد في الحد من مشكلة روبوتات الدردشة التي تقدم نصائح للمستخدمين حول كيفية الانتحار أو غيره من الأنشطة الضارة.
وكتبا رسالتهما: "منذ إصدار تلك الرسالة، علمنا بالوفاة المفجعة لشاب من كاليفورنيا منتحراً بعد تفاعل مطول مع روبوت محادثة من إنتاج OpenAI، بالإضافة إلى حادثة قتل وانتحار مماثلة في ولاية كونيتيكت".
وأضافوا أن جميع الضمانات التي وضعتها الشركات لم تكن فعّالة. ويتولى مسؤولان حكوميان التحقيق في اقتراح شركة OpenAI بتقييد نشاطها وتحويلها إلى كيان ربحي، لضمان الحفاظ على مهمتها غير الربحية. ووفقًا للرسالة، تشمل هذه المهمة "ضمان استخدام الذكاء الاصطناعي بأمان" وبناء ذكاء اصطناعي عام "يعود بالنفع على البشرية جمعاء، بمن فيهم الأطفال"
ذكر المسؤولون أنه قبل أن تبدأ الشركة بالحديث عن الفوائد، عليها وضع تدابير سلامة كافية لضمان عدم تسبب النماذج في أي ضرر. وأضافوا أن شركة OpenAI وقطاع الذكاء الاصطناعي ليسا في المستوى المطلوب فيما يتعلق بضمان السلامة في تطوير ونشر منتجات الذكاء الاصطناعي. وأكدوا أن موقفهم يجعل السلامة العامة إحدى مهامهم الأساسية.
وأشار المدعون العامون أيضًا إلى أنه مع استمرار المحادثات المتعلقة بخطط إعادة تمويل OpenAI، يجب على الشركة التعاون معهم لتحسين السلامة في مستقبل التكنولوجيا .كما طلب بونتا وجينينغز مزيدًا من المعلومات حول احتياطات السلامة والحوكمة الحالية التي تطبقها OpenAI، مشيرين إلى أنهم يتوقعون من الشركة اتخاذ تدابير تصحيحية فورية عند الضرورة.
