الصين ترفض برامج الدردشة الآلية التي تعتمد على الذكاء الاصطناعي في مجال الانتحار والمقامرة

تعتزم الجهات التنظيمية في الصين تشديد الرقابة على برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي، والتي تدفع الناس إلى التفكير بالانتحار، وإيذاء أنفسهم، والمقامرة. ويأتي هذا التطور في الوقت الذي تقدمت فيه شركتان رائدتان في مجال برامج الدردشة الآلية في الصين بطلبات للاكتتاب العام الأولي في هونغ كونغ.

تشير التقارير إلى أن الإجراءات المقترحة حديثًا والتي تم الإعلان عنها يوم السبت ستنطبق على منتجات أو خدمات الذكاء الاصطناعي التي يتم تقديمها للجمهور في الصين والتي تحاكي الشخصية البشرية وتشرك المستخدمين عاطفيًا عبر النصوص أو الصور أو الصوت أو الفيديو.

من المتوقع أن تحمي مقترحات الصين القاصرين من إيذاء أنفسهم

وفقًا لمسودة القواعد التي أصدرتها إدارة الفضاء الإلكتروني يوم السبت، فإن هذه القواعد تستهدف ما وصفته بـ "خدمات الذكاء الاصطناعي التفاعلية الشبيهة بالبشر"، وذلك بحسب CNBC للوثيقة الصينية.

تتضمن مسودة القواعد عدة مقترحات. على سبيل المثال، لبرامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي إنشاء محتوى يشجع على إيذاء النفس أو الانتحار، أو الانخراط في عنف لفظي أو تلاعب عاطفي قد يضر بالصحة النفسية للمستخدمين.

بالإضافة إلى ذلك، لا يُفترض أن تُنشئ روبوتات الدردشة المدعومة بالذكاء الاصطناعي محتوىً فاحشًا أو عنيفًا أو متعلقًا بالمقامرة. ووفقًا لمسودة القواعد، إذا اقترح أحد المستخدمين الانتحار، يُفترض أن تُعيّن شركة الذكاء الاصطناعي شخصًا بشريًا يتولى المحادثة ويتصل فورًا بولي أمر المستخدم أو بشخص مُعيّن.

مسودة القواعد أيضًا حصول القاصرين على موافقة ولي أمرهم لاستخدام تطبيقات الرفقة العاطفية، مع تحديد مدة زمنية للاستخدام. وبموجب القواعد الجديدة، يُتوقع من منصات الذكاء الاصطناعي تحديد ما إذا كان المستخدم بالغًا أم قاصرًا حتى لو لم يفصح عن عمره. وفي حال وجود أي شكوك، يجب على المنصات تطبيق إعدادات خاصة بالقاصرين، مع إتاحة إمكانية الاستئناف.

بمجرد الانتهاء من وضع هذه القواعد، ستشكل أول محاولة في العالم لتنظيم الذكاء الاصطناعي ذي الخصائص البشرية أو الشبيهة بالبشر، وفقًا لما ذكره وينستون ما، أستاذ القانون في جامعة نيويورك. وتأتي هذه التطورات في الوقت الذي طورت فيه الشركات بسرعة رفقاء الذكاء الاصطناعي والمشاهير الرقميين.

عند مقارنة هذا بلوائح الذكاء الاصطناعي التوليدي الصينية لعام 2023، رأى ما أن هذه النسخة "تسلط الضوء على قفزة من سلامة المحتوى إلى الجانب العاطفي"

تأتي هذه المقترحات في الوقت الذي تقدمت فيه شركتا Z.ai و Minimax، وهما شركتان صينيتان ناشئتان في مجال برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي ، بطلبات طرح عام أولي في بورصة هونغ كونغ هذا الشهر. وتشتهر Minimax عالميًا بتطبيق Talkie AI الذي يتيح للمستخدمين الدردشة مع شخصيات افتراضية.

بحسب شبكة سي إن بي سي، شكل التطبيق ونسخته الصينية المحلية، المعروفة باسم Xingye، أكثر من ثلث إيرادات الشركة في الأرباع الثلاثة الأولى من العام، بمتوسط ​​يزيد عن 20 مليون مستخدم نشط شهريًا خلال تلك الفترة.

أما شركة Z.ai، المعروفة أيضاً باسم Zhipu، فقد قدمت طلبها تحت اسم Knowledge Atlas Technology، لكنها لم تفصح عن عدد مستخدميها النشطين شهرياً. ومع ذلك، كشفت الشركة المتخصصة في الذكاء الاصطناعي أن تقنيتها مثبتة على حوالي 80 مليون جهاز، بما في ذلك الهواتف الذكية وأجهزة الكمبيوتر الشخصية والمركبات الذكية.

كما ذكرت Cryptopolitan، فإن الشركتين الناشئتين في مجال الذكاء الاصطناعي، والمدعومتين من قبل Alibaba وTencent، تستهدفان طرح أسهمهما للاكتتاب العام في أوائل يناير من العام المقبل في بورصة هونغ كونغ.