وقّع حاكم ولاية كاليفورنيا، جافين نيوسوم، يوم الاثنين، مشروع قانون جديد يضع ضمانات واضحة للتقنيات الجديدة والناشئة، مثل الذكاء الاصطناعي. ويهدف التشريع الجديد إلى تعزيز حماية الأطفال على الإنترنت عند استخدامهم برامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي.
يتضمن التشريع ضمانات لحماية برامج الدردشة الآلية، مثل التحقق من العمر، وبروتوكولات للتعامل مع الانتحار وإيذاء النفس، وتحذيرات بشأن وسائل التواصل الاجتماعي وبرامج الدردشة الآلية المصاحبة لها، وعقوبات صارمة لمن يتربحون من التزييف العميق غير القانوني. ويعتقد الحاكم أن هذه المبادرة ستساعد في ضمان بقاء سلامة الأطفال أولوية قصوى في كاليفورنيا.
نيوسوم أشار إلى أن التقنيات الناشئة، مثل برامج الدردشة الآلية ووسائل التواصل الاجتماعي، قادرة على الإلهام والتثقيف والتواصل، لكن ثمة حاجة إلى ضوابط حقيقية، إذ يمكن للتكنولوجيا أن تستغل الأطفال وتضللهم وتعرضهم للخطر. وأكد أن كاليفورنيا قادرة على مواصلة ريادتها في مجال الذكاء الاصطناعي والتكنولوجيا، لكن عليها أن تفعل ذلك بمسؤولية.
ترى جينيفر سيبل نيوسوم، الشريكة الأولى لحاكم الولاية، أن كل ما يفعله الناس يبدأ بأطفالهم؛ سلامتهم وصحتهم ورفاهيتهم. وقالت إنه على الرغم من أن كاليفورنيا لطالما كانت رائدة في مجال الابتكار، فإن القيادة الحقيقية تعني أيضاً وضع حدود للأطفال في أوقات الحاجة الماسة. وأضافت سيبل أن التشريع يضع ضوابط تحمي صحة الأطفال وسلامتهم، مع ضمان تقدم الابتكار بمسؤولية.
لقد شهدنا أمثلة مروعة ومأساوية لشباب تضرروا من التكنولوجيا غير المنظمة، ولن نقف مكتوفي الأيدي بينما تستمر الشركات في العمل دون القيود والمساءلة اللازمة. سلامة أطفالنا ليست للبيع
–غافين نيوسوم، حاكم ولاية كاليفورنيا.
لطالما كانت كاليفورنيا رائدة في حماية الأطفال من مخاطر التكنولوجيا الناشئة. وقد سبق للولاية أن سنّت تشريعات أخرى لحماية الأطفال من إدمان وسائل التواصل الاجتماعي،tronمتطلبات صارمة لحماية الخصوصية، وتبنّت تدابير رائدة على مستوى البلاد في مجال الشفافية.
يهدف التشريع إلى وضع ضمانات جديدة لبرامج الدردشة الآلية المدعومة بالذكاء الاصطناعي، وذلك من خلال اشتراط أن تُنشئ هذه البرامج بروتوكولات لتحديدdentالأفكار الانتحارية أو التعبير عن إيذاء النفس لدى المستخدمين. كما يُلزم مشروع القانون المنصات بالإفصاح عن أن التفاعلات مُولّدة اصطناعياً.
بحسب مشروع القانون، يجب على منصات الدردشة الآلية تقديم تذكيرات بأخذ فترات راحة، ومنع الأطفال من مشاهدة صور ذات محتوى جنسي صريح يتم إنشاؤها بواسطة هذه البرامج. كما يُلزم القانون هذه البرامج بمشاركة بروتوكولات التعامل مع حالات إيذاء النفس، وإحصائيات توضح عدد مرات إرسالها إشعارات الوقاية من مراكز الأزمات إلى وزارة الصحة العامة. وبموجب التشريع الجديد، يُحظر على برامج الدردشة الآلية انتحال صفة متخصصين في الرعاية الصحية.
يشترط القانون الجديد على أنظمة التشغيل ومزودي متاجر التطبيقات وضع بروتوكولات للتحقق من العمر لمنع الأطفال من الوصول إلى محتوى غير لائق أو خطير على الإنترنت. كما سيتعين على منصات الدردشة الآلية عرض تحذيرات على مواقع التواصل الاجتماعي لتوعية المستخدمين الصغار بالمخاطر المحتملة المرتبطة بالاستخدام المطول لهذه المواقع.
ينص التشريع الجديد علىtronأشدّ عقوبات المواد الإباحية المُزيّفة بتقنية التزييف العميق في برامج الدردشة الآلية، بما في ذلك تعويض مدني للضحايا يصل إلى 250 ألف دولار أمريكي عن كل دعوى تُرفع ضدّ أطراف ثالثة تُسهّل أو تُساعد عن علم في توزيع مواد جنسية صريحة بالتراضي. كما حثّ نيوسوم على وضع إرشادات لمكافحة التنمّر الإلكتروني، مُلزماً وزارة التعليم في كاليفورنيا بتبنّي سياسة نموذجية للتعامل مع حالات التنمّر الإلكتروني المُبلّغ عنها التي تحدث خارج ساعات الدوام المدرسي بحلول 1 يونيو 2026. ويُلزم أيضاً وكالات التعليم المحلية بتبنّي السياسة الناتجة أو سياسة مماثلة تمّ تطويرها بمشاركة محلية.
كما دعا الحاكم نيوسوم إلى محاسبة واضحة عن الأضرار الناجمة عن تقنية الذكاء الاصطناعي. وتهدف هذه المبادرة إلى منع مطوري أو معدلي أو مستخدمي الذكاء الاصطناعي من الإفلات من المسؤولية بالادعاء بأن التقنية تصرفت بشكل مستقل.
تم إقرار العديد من مشاريع القوانين الأخرى لحماية الأطفال وتعزيز سلامة التكنولوجيا والمنصات الإلكترونية. وتشمل هذه المشاريع: وضع ملصقات تحذيرية على وسائل التواصل الاجتماعي (بمبادرة من عضوة الجمعية ريبيكا باور-كاهان)، وتدابير الحماية من الذكاء الاصطناعي (بمبادرة من عضوة الجمعية ماغي كريل)، ومكافحة المواد الإباحية المزيفة (بمبادرة من عضو الجمعية جوش لوينثال من لونغ بيتش)، وإلغاء الحسابات (بمبادرة من عضوة الجمعية بيلار شيافو)، ومركز كاليفورنيا لتكامل الأمن السيبراني: الذكاء الاصطناعي (بمبادرة من عضوة الجمعية جاكي إيروين)، وغيرها.
