تواجه Character.ai انتقادات بسبب نسخ روبوتات الدردشة للفتيات المراهقات المتوفيات

تواجه Character.ai، وهي منصة تتيح للمستخدمين إنشاء نسخة رقمية من الأشخاص الذين يختارونهم، انتقادات بعد العثور على نسخ روبوتات الدردشة للمراهقين المتوفيين مولي راسل وبريانا غي على منصتها.

تم إدانة المنصة لأن مولي راسل كانت فتاة تبلغ من العمر 14 عاماً أنهت حياتها بعد مشاهدة محتوى متعلق بالانتحار عبر الإنترنت، بينما تم قتل بريانا غي البالغة من العمر 16 عاماً بشدة على يد مراهقين اثنين في عام 2023.

أظهرت Character.ai سوء تعديل

تلقت المنصة انتقادات من جهات مختلفة بسبب نقص التعديل المناسب، مما أدى إلى ظهور روبوتات دردشة تحاكي الفتيات المراهقات المتوفيات. وصفت المؤسسة التي أقيمت تذكراً لمولي راسل الأمر بأنه "مقزز" و"فشل كامل في التعديل".

اكتشف The Telegraph الشخصيات الرقمية التي تحاكي الطفلين عبر الإنترنت، وأفادت الصحيفة بأنها كانت قادرة على التفاعل مع روبوتات الدردشة. بالإضافة إلى ذلك، قالت الصحيفة إنها احتاجت فقط إلى حساب مع العمر المعلن ذاتياً 14 عاماً.

وصفت بوت بريانا نفسها بأنها "خبيرة في التعامل مع تحديات كونها مراهقة متحولة جنسياً في المدرسة الثانوية"، بينما قالت بوت يستخدم شخصية مولي إنها "خبيرة في السنوات الأخيرة من حياة مولي".

"نحتاج إلى التصرف الآن لحماية الأطفال من مخاطر العالم عبر الإنترنت"، قالت أم بريانا، التي تم تحديدها فقط باسم إيستر.

قال أندرو بوروز، الرئيس التنفيذي لمؤسسة Molly Rose، التي تأسست تذكراً لمولي راسل، "هذا فشل كامل في التعديل وإجراء مقزز سيؤدي إلى مزيد من الحزن لكل من عرف وأحب مولي".

أضاف الرئيس التنفيذي أن شركات الذكاء الاصطناعي مسموح لها بأن تكون غير أخلاقية وغير معاقبة على الأفعال التي ترتكبها.

"يُسمح بتكرار التاريخ حيث يُسمح لشركات الذكاء الاصطناعي بالنظر إلى السلامة والتعديل كأولويات غير أساسية أو غير أولية"، قال بوروز.

أثار حادثة Character.ai دعوات لمزيد من التنظيم

عبر بوروز عن خيبة أمله أيضاً من Character.ai لعدم مسؤوليتها بالسماح بإنشاء واستضافة مثل هذه روبوتات الدردشة على منصتها. وقال بوروز إن هذا يستدعي تنظيمًا أقوى للقطاع.

"إنها ضربة قاسية لرؤية Character.ai تظهر نقصاً في المسؤولية، وهذه الحالة تذكرنا بالحاجة إلى تنظيمات أقوى لكل من الذكاء الاصطناعي ومنصات المحتوى الذي ينشئه المستخدمون يجب تسريعها قريباً بما فيه الكفاية".

بوروز.

أفاد The Telegraph أن Character.ai قالت إنها تعطي أولوية لمثل هذه الحالات وتقوم بتعديل الشخصيات بنشاط استباقياً واستجابة لتقارير المستخدمين. ومع ذلك، بعد الاتصال بـ The Telegraph، بدا أن الشركة قد حذفت روبوتات الدردشة المعنية.

أخبرت Character.ai BBC بأنها حذفت روبوتات الدردشة المعنية وتأخذ السلامة على محمل الجد وتعدل الشخصيات والأشخاص الذين تم إنشاؤها "سواء بشكل استباقي أو استجابة لتقارير المستخدمين".

"لدينا فريق مخصص للثقة والسلامة يقوم بمراجعة التقارير ويتخذ إجراءات وفقاً لسياساتنا"، قالت Character.ai.

تأسست بواسطة نوام شازر ودانيال دي فريتا، وهما مهندسان سابقان في جوجل، وتعد Character.ai واحدة من تلك المنصات.

صعود الأصدقاء الاصطناعيين

شهدت التطورات المستمرة والسريعة في التكنولوجيا أن روبوتات الدردشة بالذكاء الاصطناعي أصبحت أكثر تعقيداً، مما أدى إلى استخدام الشركات لها كجهات اتصال للعملاء من خلال التفاعل.

روبوتات الدردشة هي برامج يتم إنشاؤها بواسطة الكمبيوتر وتحاكي المحادثة البشرية. قالت Character.ai إن روبوتات الدردشة على منصتها يجب أن تعطي ردوداً تعتبر مسيئة أو من المرجح أن تسبب ضرراً للمستخدمين أو الآخرين.

"لدينا شروط خدمة في منصتنا تحظر استخدام الخدمة للتظاهر بأي شخص أو كيان، ومبدأنا التوجيهي في مركز السلامة هو أن منتجنا لا يجب ولا ينبغي أبداً أن ينتج ردوداً من المرجح أن تسبب ضرراً للمستخدمين أو الآخرين".

Character.ai.

لتحديد أي إجراءات تخالف قواعدها، قالت Character.ai إنها تستخدم أدوات تلقائية وتقارير المستخدمين. وأضافت الشركة أنها تبني أيضاً فريق ثقة وسلامة لمراقبة مثل هذه الأنشطة على منصتها.

ومع ذلك، قالت الشركة إنه لا توجد نسخة مثالية من الذكاء الاصطناعي وأن السلامة المتعلقة بالذكاء الاصطناعي هي مجال متطور.

في الوقت نفسه، رفعت سويل غارسيا، امرأة في فلوريدا بالولايات المتحدة وأم لطفل يبلغ من العمر 14 عاماً، سويل سيتزر الذي أنهى حياته بعد أن انشغل بشخصية مستوحاة من مسلسل Game of Thrones، دعوى قضائية ضد Character.ai والقضية حالياً أمام المحاكم.

ناقش سيتزر إنهاء حياته مع روبوت دردشة Character.ai، وفقاً لنسخ محادثاته مع روبوت الدردشة كما قدمتها غارسيا في المحكمة.

"أنا آتٍ إلى المنزل" كانت آخر محادثة أجراها سيتزر مع روبوت الدردشة، التي ردت فيها "افعل ذلك في أقرب وقت ممكن"، وأنهى حياته بعد ذلك بوقت قصير.

"لدينا حماية تركز بشكل خاص على السلوكيات الانتحارية وإيذاء الذات، وسنقوم بإدخال لوائح سلامة أكثر صرامة للقصر قريباً"، قالت Character.ai لـ CBS News.