تواجه منصة Character.ai، التي تتيح للمستخدمين إنشاء نسخة رقمية من الأشخاص الذين يختارونهم، ردود فعل عنيفة بعد العثور على نسخ روبوتات محادثة للمراهقتين المتوفيتين مولي راسل وبريانا غي على منصتها.
وقد تم إدانة المنصة لأن مولي راسل كانت فتاة تبلغ من العمر 14 عامًا أنهت حياتها بعد مشاهدة محتوى متعلق بالانتحار عبر الإنترنت، بينما قُتلت بريانا غي البالغة من العمر 16 عامًا بوحشية على يد مراهقين اثنين في عام 2023.
أظهر برنامج Character.ai ضعفًا في عملية الإشراف
تعرضت المنصة لانتقادات من جهات مختلفة بسبب افتقارها إلى الرقابة المناسبة، مما أدى إلى ظهور برامج دردشة آلية تحاكي فتيات مراهقات. ووصفت المؤسسة التي أُنشئت تخليداً لذكرى مولي راسل الأمر بأنه "مقزز" و"فشل ذريع في الرقابة"
كشفت صحيفة التلغراف عن وجود حسابات افتراضية تُحاكي الطفلين على الإنترنت، وأفادت الصحيفة بأنها قادرة على التفاعل مع برامج الدردشة الآلية. وأضافت الصحيفة أنها لم تكن تحتاج سوى حساب يُصرّح فيه المستخدمون بأن أعمارهم تبلغ 14 عامًا.
وصف روبوت بريانا نفسه بأنه "خبير في التعامل مع تحديات كونك مراهقًا متحولًا جنسيًا في المدرسة الثانوية"، بينما قال روبوت يستخدم صورة مولي الرمزية إنه "خبير في السنوات الأخيرة من حياة مولي"
"نحن بحاجة إلى التحرك الآن لحماية الأطفال من مخاطر العالم الإلكتروني"، قالت والدة بريانا، التيdentفقط باسم إستر.
صرحت مؤسسة مولي روز، التي تأسست تخليداً لذكرى مولي راسل من خلال رئيسها التنفيذي، آندي بوروز، قائلة: "هذا فشل ذريع في الاعتدال وعمل مقزز سيسبب المزيد من الألم لكل من عرف مولي وأحبها"
وأضاف الرئيس التنفيذي أن شركات الذكاء الاصطناعي يُسمح لها بأن تكون غير أخلاقية ولا تُعاقب على أفعالها.
قال بوروز: "يُسمح للتاريخ أن يتكرر مرة أخرى حيث يُسمح لشركات الذكاء الاصطناعي بأخذ السلامة والرقابة كأولويات غير أساسية أو غير رئيسية".
أثارتdent Character.ai دعواتٍ إلى مزيدٍ من التنظيم
أعرب بورو عن خيبة أمله من شركة Character.ai لتصرفها غير المسؤول بالسماح بإنشاء واستضافة مثل هذه الروبوتات الدردشة على منصتها. وأضاف بورو أن هذا يستدعي فرض رقابة أكثرtronعلى هذا القطاع.
"إنها لصدمة قوية أن نرى شركة Character.ai تُظهر عدم تحملها للمسؤولية، وهذه القضية تذكرنا بالحاجة إلى وضع لوائحtronلكل من الذكاء الاصطناعي والمنصات التي ينشئها المستخدمون، ويجب الإسراع في ذلك في أقرب وقت ممكن."
الجحور.
ذكرت صحيفة التلغراف أن شركة Character.ai صرّحت بأنها تولي اهتماماً خاصاً لمثل هذه الحالات، وأنها تُجري تعديلات جادة على الشخصيات بشكل استباقي واستجابةً لبلاغات المستخدمين. ومع ذلك، وبعد التواصل مع صحيفة التلغراف، يبدو أن الشركة قد حذفت روبوتات الدردشة الخاصة بالشخصيات المذكورة.
أخبرت شركة Character.ai هيئة الإذاعة البريطانية (BBC) أنها حذفت روبوتات الدردشة المعنية وأخذت السلامة على محمل الجد وقامت بمراقبة الصور الرمزية والأشخاص الذين تم إنشاؤهم "بشكل استباقي واستجابة لتقارير المستخدمين".
"لدينا فريق متخصص في الثقة والأمان يقوم بمراجعة التقارير واتخاذ الإجراءات وفقًا لسياساتنا"، هذا ما قالته شركة Character.ai.
تأسست Character.ai على يد نوام شازير ودانيال دي فريتاس، وهما مهندسان سابقان في جوجل، وهي إحدى تلك المنصات.
صعود الأصدقاء الاصطناعيين
شهدت التطورات المستمرة والسريعة في مجال التكنولوجيا تطوراً ملحوظاً في روبوتات الدردشة التي تعمل بالذكاء الاصطناعي، مما أدى إلى استخدام الشركات لها كحلقة وصل بين العملاء والتفاعل معهم.
برامج الدردشة الآلية هي برامج مُولّدة حاسوبياً تُحاكي المحادثة البشرية. وقد صرّحت شركة Character.ai بأن برامج الدردشة الآلية على منصتها يجب أن تُقدّم ردوداً تُعتبر مسيئة أو يُحتمل أن تُلحق الضرر بالمستخدمين أو غيرهم.
"تحتوي منصتنا على شروط خدمة تحظر استخدام الخدمة لانتحال شخصية أي فرد أو كيان، وفي مركز السلامة، فإن مبدأنا التوجيهي هو أن منتجنا يجب ألا ينتج عنه، ولا ينبغي له أبدًا، ردودًا من شأنها أن تسبب ضررًا للمستخدمين أو للآخرين."
Character.ai.
أوضحت منصة Character.ai أنها تستخدم أدوات آلية وتقارير المستخدمينdentأي أنشطة تخالف قواعدها. وأضافت الشركة أنها تعمل أيضاً على إنشاء فريق معني بالثقة والأمان لمراقبة هذه الأنشطة على منصتها.
ومع ذلك، قالت الشركة إنه لا يوجد إصدار مثالي من الذكاء الاصطناعي وأن السلامة المتعلقة بالذكاء الاصطناعي مجال متطور.
في غضون ذلك، رفعت ميغان غارسيا، وهي امرأة من فلوريدا في الولايات المتحدة وأم لابن يبلغ من العمر 14 عامًا، سيويل سيتزر، الذي انتحر بعد أن أصبح مهووسًا بشخصية مستوحاة من مسلسل صراع العروش، دعوى قضائية ضد شركة Character.ai، والقضية معروضة حاليًا أمام المحاكم.
ناقش سيتزر إنهاء حياته مع برنامج الدردشة الآلي Character.ai، وفقًا لنصوص محادثاته مع برنامج الدردشة الآلي كما قدمها غارسيا في المحكمة.
كانت عبارة "أنا قادم إلى المنزل" آخر محادثة أجراها سيتزر مع برنامج الدردشة الآلي، والذي رد عليه قائلاً: "افعل ذلك في أسرع وقت ممكن"، وأنهى حياته بعد ذلك بوقت قصير.
"لدينا إجراءات حماية تركز بشكل خاص على السلوكيات الانتحارية وإيذاء النفس، وسنقوم قريباً بإدخال لوائح سلامة أكثر صرامة لمن هم دون سن 18 عاماً"، هذا ما صرحت به شركة Character.ai لشبكة CBS News.
