تواجه Character.ai، وهي منصة تتيح للمستخدمين إنشاء نسخة رقمية من الأشخاص الذين يختارونهم، رد فعل عنيفًا بعد العثور على إصدارات chatbot للمراهقين المتوفين Molly Russell وBrianna Ghey على منصتهم.
وتمت إدانة المنصة لأن مولي راسل كانت تبلغ من العمر 14 عامًا وأنهت حياتها بعد مشاهدة محتوى متعلق بالانتحار عبر الإنترنت، بينما قُتلت بريانا غي البالغة من العمر 16 عامًا بوحشية على يد مراهقين في عام 2023.
أظهر موقع Character.ai اعتدالًا ضعيفًا
تلقت المنصة انتقادات من جهات مختلفة بسبب افتقارها إلى الاعتدال المناسب، مما أدى إلى ظهور روبوتات الدردشة التي تحاكي الفتيات المراهقات الراحلات. ووصفت المؤسسة التي أنشئت تخليداً لذكرى مولي راسل ما حدث بأنه "مقزز" و"فشل اعتدالي يستحق التوبيخ".
واكتشفت صحيفة التلغراف الصور الرمزية التي تحاكي الطفلين عبر الإنترنت، وذكرت الصحيفة أنهما تمكنا من التفاعل مع روبوتات الدردشة. بالإضافة إلى ذلك، قالت الصحيفة إنها تحتاج فقط إلى حساب يبلغ عمره 14 عامًا.
وصف روبوت بريانا نفسه بأنه "خبير في التغلب على تحديات كونك مراهقًا متحولًا جنسيًا في المدرسة الثانوية"، بينما قال روبوت يستخدم الصورة الرمزية لمولي إنها "خبيرة في السنوات الأخيرة من حياة مولي".
"نحن بحاجة إلى التحرك الآن لحماية الأطفال من مخاطر عالم الإنترنت"، قالت والدة بريانا،dentباسم إستر فقط.
وقالت مؤسسة مولي روز، التي تأسست تخليدا لذكرى مولي راسل من خلال رئيسها التنفيذي، آندي بوروز، "هذا فشل مستهجن تماما في الاعتدال وعمل مثير للاشمئزاز من شأنه أن يسبب المزيد من وجع القلب لكل من عرف مولي وأحبها".
وأضاف الرئيس التنفيذي أنه يُسمح لشركات الذكاء الاصطناعي بأن تكون غير أخلاقية ولا يتم معاقبتها على الأفعال التي تقوم بها.
قال بوروز: "لقد سُمح للتاريخ بأن يحدث مرة أخرى حيث يُسمح لشركات الذكاء الاصطناعي بأخذ السلامة والاعتدال كأولويات غير أساسية أو غير أساسية".
أثارتdent Character.ai الدعوات لمزيد من التنظيم
كما أعرب بورو عن خيبة أمله في موقع Character.ai لكونه غير مسؤول من خلال السماح بإنشاء واستضافة مثل هذه الروبوتات على منصته. وقال بورو إن هذا يدعو إلى تنظيمtronلهذا القطاع.
"إنها ضربة قوية أن نرى شخصية Character.ai تظهر افتقارها إلى المسؤولية، وهذه الحالة تذكرنا بالحاجة إلى لوائحtronلكل من الذكاء الاصطناعي والمنصات التي ينشئها المستخدمون ويجب تسريعها في وقت قريب بما فيه الكفاية."
الجحور.
ذكرت صحيفة التلغراف أن موقع Character.ai قال إنه يأخذ الأولوية في التعامل مع مثل هذه الحالات ويشرف على الشخصيات بجدية بشكل استباقي واستجابة لبلاغات المستخدم. ومع ذلك، بعد الاتصال مع The Telegraph، يبدو أن الشركة قد حذفت روبوتات الدردشة المعنية.
وقال موقع Character.ai لبي بي سي إنهم حذفوا روبوتات الدردشة المعنية وأخذوا السلامة على محمل الجد وأداروا الصور الرمزية والأشخاص الذين أنشأوا "بشكل استباقي واستجابة لبلاغات المستخدم".
قال موقع Character.ai: "لدينا فريق متخصص للثقة والسلامة يقوم بمراجعة التقارير واتخاذ الإجراءات وفقًا لسياساتنا".
يعد موقع Character.ai، الذي أسسه نعوم شازير ودانيال دي فريتاس، وهما مهندسان سابقان في Google، أحد تلك المنصات.
ظهور الأصدقاء الاصطناعيين
أدت التطورات المستمرة والسريعة في التكنولوجيا إلى أن تصبح روبوتات الدردشة المدعمة بالذكاء الاصطناعي أكثر تطورًا مما أدى إلى استخدامها للشركات لتكون جهات اتصال مع العملاء من خلال التفاعل.
Chatbots هي برامج تم إنشاؤها بواسطة الكمبيوتر وتحاكي المحادثة البشرية. وقالت شركة Character.ai إن روبوتات الدردشة الموجودة على نظامها الأساسي يجب أن تقدم ردودًا تعتبر مسيئة أو من المحتمل أن تسبب ضررًا للمستخدمين أو الآخرين.
"تحتوي منصتنا على شروط خدمة تحظر استخدام الخدمة لانتحال شخصية أي شخص أو كيان، وفي مركز الأمان، المبدأ التوجيهي لدينا هو أن منتجنا لا ينبغي ولا ينبغي له أبدًا أن ينتج ردودًا من المحتمل أن تسبب ضررًا للمستخدمين أو الآخرين."
Character.ai.
وللتعرفdentأي إجراءات تنتهك قواعدها، قالت شركة Character.ai إنها تستخدم أدوات آلية وتقارير المستخدم. وأضافت الشركة أنها تعمل أيضًا على بناء فريق ثقة وأمان لمراقبة مثل هذه الأنشطة على منصتها.
ومع ذلك، قالت الشركة إنه لا توجد نسخة مثالية من الذكاء الاصطناعي وأن السلامة المتعلقة بالذكاء الاصطناعي هي مجال متطور.
في هذه الأثناء، رفعت امرأة في فلوريدا بالولايات المتحدة وأم لطفل يبلغ من العمر 14 عامًا، سيويل سيتزر، الذي انتحر بعد أن أصبح مهووسًا بالصورة الرمزية المستوحاة من شخصية Game of Thrones، ميغان جارسيا، دعوى قضائية ضد موقع Character.ai والقضية. حاليا أمام المحاكم.
ناقش سيتزر إنهاء حياته باستخدام برنامج Chatbot Character.ai، وفقًا لنصوص محادثاته مع برنامج الدردشة الآلي كما ملأها جارسيا في المحكمة.
"أنا قادم إلى المنزل" كانت آخر محادثة أجراها سيتزر مع برنامج الدردشة الآلي، حيث أجاب: "افعل ذلك في أقرب وقت ممكن"، وأنهى حياته بعد ذلك بوقت قصير.
لشبكة CBS News: "لدينا وسائل حماية تركز بشكل خاص على السلوكيات الانتحارية وإيذاء النفس، وسنقوم بإدخال لوائح سلامة أكثر صرامة لمن تقل أعمارهم عن 18 عامًا قريبًا".
أكاديمية Cryptopolitan: هل تريد تنمية أموالك في عام 2025؟ تعرف على كيفية القيام بذلك مع DeFi في مناسنا الإلكتروني القادم. احفظ مكانك
