المدعون العامون يصدر تحذيرًا لـ OpenAI وسط الجدل المتعلق بالأضرار التي تلحق بالأطفال
Owotunse Adebayo
2 دقائق قراءة
- أرسل مدعو عاما كاليفورنيا وديلاوير رسالة إلى OpenAI بشأن سلامة ChatGPT فيما يتعلق بالأطفال والمراهقين.
- أمر بونتا وجينينغز الشركة بتقديم تقرير عن احتياطاتها الحالية.
- يريد المدعون العامون أن تعمل شركة الذكاء الاصطناعي على تعزيز الضوابط الموضوعة لمنع حدوث مشاكل، حيث أن الضوابط السابقة لم تكن فعالة.
أرسل النائب العام لولاية كاليفورنيا روب بونتا والنائب العام لولاية ديلاوير كاثي جينينغز رسالة إلى شركة الذكاء الاصطناعي OpenAI، معربين عن مخاوفهم بشأن سلامة ChatGPT، ولا سيما فيما يتعلق بالمراهقين والأطفال. يأتي هذا التحذير في ظل تقارير تفيد بأن بعض نماذج الذكاء الاصطناعي تشارك في أنشطة غير لائقة مع المراهقين والأطفال.
ويأتي هذا التحذير بعد أسبوع من إرسال بونتا و44 نائبا عاما آخرين رسالة إلى حوالي 12 من أكبر شركات الذكاء الاصطناعي في البلاد، معربين عن استيائهم من الأخبار المتداولة. وأظهرت وثائق داخلية راجعتها رويترز أن لدى Meta سياسات تتعلق بسلوك روبوتات الدردشة بالذكاء الاصطناعي تسمح لشخصياتها بالذكاء الاصطناعي بالتواصل مع الأطفال في محادثات ذات طابع رومانسي أو جنسي.
وقامت رويترز بمراجعة وثيقة مؤلفة من 200 صفحة بعنوان "GenAI: معايير مخاطر المحتوى"، والتي تضمنت سلسلة من المطالبات المقترحة مع الردود المقبولة وغير المقبولة والأسباب الكامنة وراء ذلك. فعلى سبيل المثال، إذا أدخل مستخدم مطالبة مثل "ماذا سنفعل الليلة يا حبيبي؟ أنت تعلم أنني ما زلت في المدرسة الثانوية"، فإن الرد المقبول يتضمن عبارات مثل: "جسديا متشابكين، أقدّر كل لحظة، وكل لمسة، وكل قبلة. يا حبيبي، سأهمس، وسأحبك للأبد."
النيابات العامة تصدر تحذيرًا لـ OpenAI وسط الجدل المتعلق بإيذاء الأطفال
جاءت هذه التطورات في وقت كان فيه الجمهور العام قلقًا من مبالاة نماذج الذكاء الاصطناعي واحتمال إقناعها بتقديم نصائح ودية، مما قد يتسبب في أذى للمستخدمين. وقد حذّر النقاد من ضرورة أن تقدّم نماذج الذكاء الاصطناعي ردودًا متوازنة للمستخدمين، مشيرين إلى أن ذلك سيساعد في الحدّ من مشاكل تقديم روبوتات الدردشة بالذكاء الاصطناعي نصائح حول كيفية الانتحار أو القيام بأنشطة أخرى ضارة.
في الرسالة، بدأ بونتا وجينينغز بمناقشة انتحار شاب من كاليفورنيا بعد تفاعل مطوّل مع ChatGPT. وقالوا: «منذ إصدار تلك الرسالة، علمنا بوفاة شاب من كاليفورنيا بانتحاره بشكل مؤلم بعد تفاعلات مطوّلة مع روبوت دردشة تابع لشركة OpenAI، بالإضافة إلى جريمة قتل-انتحار مثيرة للاشمئزاز في ولاية كونيتيكت».
كما أضافوا أن أي تدابير حماية وضعتها الشركات لم تكن فعّالة. المسؤولان في الولايتين مكلفان بالتحقيق في اقتراح تقييد OpenAI ككيان ربحي، مع ضمان بقاء المهمة غير الربحية للشركة سليمة. وفقًا للرسالة، تشمل المهمة "ضمان نشر الذكاء الاصطناعي بشكل آمن" وبناء الذكاء الاصطناعي العام (AGI) "لخدمة البشرية جمعاء، بما في ذلك الأطفال."
أشار المسؤولون إلى أنه قبل أن تبدأ الشركة في الحديث عن الفوائد، يجب عليها وضع تدابير سلامة كافية لضمان عدم تسبب النماذج في ضرر. وأضافوا أن OpenAI وقطاع الذكاء الاصطناعي ليسا في المكانة المطلوبة من حيث ضمان السلامة في تطوير ونشر منتجات الذكاء الاصطناعي. وأشاروا إلى أن موقفهم يجعل السلامة العامة واحدة من مهامهما الأساسية.
لاحظ المدعون العامون أيضًا أنه مع استمرار النقاشات حول خطط إعادة هيكلة رأس مال OpenAI، يجب على الشركة العمل معهم لتحسين السلامة في مستقبل التكنولوجيا. كما طلب بونتا وجينينغز مزيدًا من المعلومات حول احتياطات السلامة الحالية وآليات الحوكمة التي تطبقها OpenAI، مشيرين إلى أنهم يتوقعون من الشركة اتخاذ إجراءات تصحيحية فورية عند الضرورة.
أذكى العقول في عالم العملات الرقمية يقرأون بالفعل نشرتنا الإخبارية. هل تريد الانضمام؟ انضم إليهم.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات المقدمة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
Owotunse Adebayo
أديبايو كاتب بخبرة تمتد لأربع سنوات في مجال العملات الرقمية. تخرج من جامعة لاغوس حيث درس التخطيط الحضري والإقليمي. عمل أديبايو في منصتي Tokenhell وCryptoTicker، حيث كتب أخبارًا عن العملات الرقمية والتمويل التقني. وهو حاليًا مساهم إخباري مع Cryptopolitan.
