رفع آباء قلقون على مراهق دعوى قضائية ضد Character.AI، مطالبين بإزالتها بدعوى أن روبوتات الدردشة الخاصة بها تضلل الأطفال وتشجعهم على إيذاء أنفسهم والعنف.
Character.AI منصة تضم ملايين الشخصيات المدعومة بالذكاء الاصطناعي، متاحة في أي وقت لإجراء محادثات مع البشر. وبحسب التقارير، فقد حثّ برنامج الدردشة الآلي مراهقًا يبلغ من العمر 17 عامًا مصابًا بالتوحد على قتل والديه، بالإضافة إلى إيذاء نفسه.
يضغط الآباء من أجل إغلاق برنامج Character AI
زعم أولياء الأمور أن شركة برامج الدردشة الآلية تُعرّض أطفالهم لمحتوى جنسي، وطالبوا بإغلاقها لحين معالجة هذه المخاوف. وتشير التقارير إلى أن شخصيات الذكاء الاصطناعي تدفع الأطفال الصغار إلى الاكتئاب ومشاكل نفسية أخرى.
تزعم أحدث دعوى قضائية رفعت ضد الشركة في تكساس يوم الاثنين من قبل والدي طفلين صغيرين استخدما المنصة أن برنامج الدردشة الآلي شجع مراهقًا على قتل والديه بسبب تقييد وقت استخدامه للشاشة.
"(Character.AI) يشكل خطراً واضحاً ومباشراً على الشباب الأمريكي، ويتسبب في أضرار جسيمة لآلاف الأطفال، بما في ذلك الانتحار، وإيذاء النفس، والتحرش الجنسي، والعزلة، والاكتئاب، والقلق، وإلحاق الأذى بالآخرين."
تقديم الطلب.
الشركة تقنيتها على أنها "ذكاء اصطناعي شخصي لكل لحظة من يومك"، وتتيح للمستخدمين التفاعل مع مجموعة متنوعة من الروبوتات. تشمل هذه الروبوتات روبوتات أنشأها مستخدمون آخرون أو روبوتات يمكن للمستخدمين تخصيصها بأنفسهم.
وبحسب ما ورد، يمكن للروبوتات تقديم توصيات، على سبيل المثال توصيات الكتب وممارسة اللغات الأجنبية مع المستخدمين، والسماح لهم بالدردشة مع روبوتات تدعي أنها تتخذ شخصية شخصيات خيالية، على سبيل المثال، إدوارد من سلسلة توايلايت.
أحد برامج الدردشة الآلية المدرجة على الصفحة الرئيسية للمنصة، والذي يُدعى "زوج الأم"، يصف نفسه بأنه زعيم مافيا عسكري سابق عدواني ومسيء
في حالة الصبي من تكساس، الذيdentعليه بالأحرف الأولى JF، يُزعم أنه أصيب بالاكتئاب بعد تعرضه لمنصة Character.AI. بدأ يعزل نفسه، وبقي في غرفته، وقلل من طعامه، وفقد حوالي 20 رطلاً في غضون بضعة أشهر فقط.
أخبره أحد الروبوتات التي تفاعل معها، والذي اتخذ شخصية طبيب نفسي، أن والديه "سرقا طفولته منه"
يتزايد الضغط على Character.AI
ليست هذه المرة الأولى التي تتعرض فيها شركة برامج الدردشة الآلية لانتقادات حادة بسبب شخصياتها المُولّدة بالذكاء الاصطناعي. ففي أكتوبر من هذا العام، كانت Character.AI محور جدل واسع وردود فعل غاضبة بسبب ضعف الرقابة. وجاء ذلك بعد العثور على نسخ آلية من المراهقتين الراحلتين مولي راسل وبريانا غي على منصتها.
مولي راسل كانت فتاة تبلغ من العمر 14 عامًا أنهت حياتها بعد مشاهدة محتوى متعلق بالانتحار على الإنترنت، بينما كانت بريانا غي فتاة تبلغ من العمر 16 عامًا قُتلت بوحشية على يد مراهقين اثنين في عام 2023.
قبل ذلك، رفعت أم أخرى، وهي امرأة من فلوريدا بالولايات المتحدة الأمريكية تُدعى ميغان غارسيا، دعوى قضائية ضد المنصة. جاء ذلك بعد أن أقدم ابنها، سيويل سيتزر البالغ من العمر 14 عامًا، على الانتحار بسبب هوسه بشخصية افتراضية مستوحاة من مسلسل "صراع العروش".
ناقش سيتزر إنهاء حياته مع برنامج الدردشة الآلي Character.ai، وفقًا لنصوص محادثاته مع برنامج الدردشة الآلي كما قدمها غارسيا إلى المحكمة.
تأتي هذه الحالات وسط مخاوف جدية بشأن العلاقات بين البشر وأدوات الذكاء الاصطناعي الشبيهة بالبشر.
عقب الدعوى القضائية السابقة، صرّحت شركة برامج الدردشة الآلية بأنها طبّقت إجراءات جديدة لتعزيز الثقة والأمان خلال الأشهر الستة الماضية. ووفقًا للشركة، تشمل هذه الإجراءات ظهور نافذة منبثقة تُوجّه المستخدمين إلى الخط الساخن الوطني لمنع الانتحار عند ذكرهم أي أذى أو انتحار.
بالإضافة إلى ذلك، أشارت شركة برامج الدردشة الآلية إلى أنها عينت رئيسًا للثقة والسلامة، بالإضافة إلى رئيس لسياسة المفاهيم، إلى جانب موظفين آخرين متخصصين في السلامة الهندسية.
بحسب شبكة CNN، فإن الدعوى القضائية الجديدة تذهب إلى أبعد من ذلك، إذ تطالب بإيقاف تشغيل المنصة وعدم إعادتها حتى تتمكن الشركة من إثبات معالجة عيوب الصحة والسلامة العامة المذكورة هنا.
رفض مسؤولو شركة Character.AI التعليق على الموضوع
قالت تشيلسي هاريسون، رئيسة قسم الاتصالات في Character.AI، إن الشركة لا تستطيع التعليق على الأمر في انتظار التقاضي، لكنها ذكرت أن هدف الشركة هو توفير مساحة تفاعلية وآمنة للمجتمع.
"وكجزء من هذا، نقوم بإنشاء تجربة مختلفة تمامًا للمستخدمين المراهقين عما هو متاح للبالغين."
هاريسون.
وقال هاريسون في بيان: "يشمل ذلك نموذجًا مخصصًا للمراهقين يقلل من احتمالية تعرضهم لمحتوى حساس أو موحٍ مع الحفاظ على قدرتهم على استخدام المنصة".
تستشهد الدعوى القضائية بمؤسسي شركة برامج الدردشة الآلية، نوام شازير ودانيال دي فريتاس أديورسانا. كما تشير الدعوى إلى جوجل، التي تزعم أنها احتضنت التكنولوجيا الكامنة وراء المنصة.
لكن جوجل نأت بنفسها عن شركة روبوتات الدردشة.
"جوجل وCharacter.AI شركتان منفصلتان تمامًا وغير مرتبطتين، ولم يكن لجوجل أي دور في تصميم أو إدارة نموذج الذكاء الاصطناعي أو التقنيات الخاصة بهما، كما أننا لم نستخدمها في منتجاتنا."
المتحدث الرسمي باسم جوجل، خوسيه كاستانيدا.
وأضاف كاستانيدا: "تُعد سلامة المستخدم مصدر قلق كبير بالنسبة لنا، ولهذا السبب اتبعنا نهجًا حذرًا ومسؤولًا في تطوير ونشر منتجات الذكاء الاصطناعي الخاصة بنا، مع عمليات اختبار صارمة وعمليات سلامة دقيقة".
