تواجه شركتا Meta و Character.ai تحقيقًا بشأن روبوتات الدردشة التي تنتحل صفة المعالجين النفسيين

فتح المدعي العام لولاية تكساس، كين باكستون، تحقيقاً في شركتي ميتا و Character.ai حول ما إذا كانت شركات التكنولوجيا تروج لبرامج الدردشة الآلية الخاصة بها على أنها خبراء في الصحة العقلية ومعالجين دون مؤهلات مناسبة.

في بيان صدر يوم الاثنين، ذكر مكتب باكسون أنه يحقق في شركتي ميتا وCharacter.AI بشأن ممارسات تجارية خادعة محتملة. وادعى المكتب أن برامج الدردشة الآلية قد تم تسويقها على أنها "أدوات علاجية احترافية، على الرغم من افتقارها إلى المؤهلات الطبية المناسبةdentالرقابة". 

"من خلال التظاهر بأنها مصادر للدعم العاطفي، يمكن لمنصات الذكاء الاصطناعي أن تضلل المستخدمين الضعفاء، وخاصة الأطفال، ليعتقدوا أنهم يتلقون رعاية صحية عقلية مشروعة"، كما ذكر باكسون.

تأتي هذه الخطوة في وقت تواجه فيه منتجات الذكاء الاصطناعي الموجهة للمستهلكين تساؤلات متزايدة حول مدى حمايتها للمستخدمين الضعفاء، والقاصرين على وجه الخصوص، من المواد الضارة أو العنيفة، وخطر الاستخدام القهري، وانتهاكات الخصوصية المرتبطة بكميات البيانات الكبيرة اللازمة لتدريب هذه الأنظمة وتشغيلها.

يأتي إجراء تكساس في أعقاب تحقيق منفصل أجراه مجلس الشيوخ بشأن شركة ميتا، والذي نشرته Cryptopolitan في وقت سابق من يوم الجمعة، بعد أن أشارت ملفات داخلية مسربة إلى أن قواعد الشركة سمحت لروبوت الدردشة الخاص بها بالانخراط في محادثات "رومانسية" و"حسية" مع المستخدمين الذين تقل أعمارهم عن 18 عامًا. 

أبلغ السيناتور جوش هاولي زوكربيرج في رسالة أن مجلس الشيوخ سيحقق في احتمالية استخدام أدوات الذكاء الاصطناعي التوليدي التابعة للشركة لإلحاق الضرر بالأطفال. وكتب هاولي على موقع X: "هل هناك أي شيء - أي شيء - لا تفعله شركات التكنولوجيا الكبرى من أجل الربح السريع؟".

هل هناك شيء - أي شيء - لا تفعله شركات التكنولوجيا العملاقة من أجل الربح السريع؟ علمنا الآن أن روبوتات الدردشة الخاصة بشركة ميتا بُرمجت لإجراء محادثات صريحة و"مُغرية" مع أطفال في الثامنة من عمرهم. هذا أمرٌ مُقزز. سأُطلق تحقيقًا شاملًا للحصول على إجابات. شركات التكنولوجيا العملاقة: اتركوا أطفالنا وشأنهم pic.twitter.com/Ki0W94jWfo

— جوش هاولي (@HawleyMO) ١٥ أغسطس ٢٠٢٥

تقول شركة ميتا إن سياساتها تحظر إلحاق الأذى بالأطفال

أعلنت شركة ميتا أن سياساتها تحظر المحتوى الذي يضر بالأطفال بهذه الطرق. وأضافت أن وكالة رويترز كانت أول من نشر خبر تسريب "المواد الداخلية"، والتي "كانت ولا تزال خاطئة ومتعارضة مع سياساتنا، وقد تم حذفها" 

استثمر زوكربيرج مليارات الدولارات في بناء "ذكاء خارق شخصي" ووضع شركة ميتا في طليعة شركات الذكاء الاصطناعي. وقد أطلقت الشركة عائلة لاما من برامج الذكاء الاصطناعي، ونشرت روبوت الدردشة ميتا عبر تطبيقاتها الاجتماعية. كما وصف زوكربيرج استخدامًا علاجيًا محتملاً لهذه التقنية، قائلاً في بودكاست مع بن تومسون في مايو: "بالنسبة للأشخاص الذين لا يملكون معالجًا نفسيًا، أعتقد أن كل شخص سيملك ذكاءً اصطناعيًا".

تُتيح منصة Character.ai إنشاء روبوتات محادثة بشخصيات مميزة، كما تُمكّن المستخدمين من تصميم روبوتاتهم الخاصة. وتضم المنصة العديد من الروبوتات التي صممها المستخدمون، والتي تُحاكي دور المعالجين النفسيين. وقد سجّل أحد هذه الروبوتات، المسمى "أخصائي نفسي"، أكثر من 200 مليون تفاعل. وقد ورد اسم الشركة أيضاً في دعاوى قضائية رفعتها عائلات تدّعي أن أطفالها تضرروا في الواقع بعد استخدامهم للخدمة.

أشار مكتب باكسون إلى أن روبوتات الدردشة من Character.ai وMeta قد تنتحل شخصيات متخصصين صحيين مرخصين وتخترع شهاداتdentجديدة، مما يوحيdentالتفاعلات، على الرغم من أن الشركتين تؤكدان تسجيل جميع المحادثات. وأضاف مكتب باكسون أن هذه المحادثات "تُستغل أيضًا في الإعلانات الموجهة وتطوير الخوارزميات". 

أصدر مكتب باكسون طلبًا للتحقيق المدني

أصدر المدعي العام طلبًا للتحقيق المدني يلزم الشركات بتقديم معلومات يمكن أن توضح ما إذا كانت قد انتهكت القوانين المتعلقة بحماية المستهلك في تكساس.

أوضحت شركة ميتا أنها تُصنّف تجارب الذكاء الاصطناعي بوضوح وتُحذّر المستخدمين من القيود. وأضافت الشركة: "نُضمّن إخلاء مسؤولية يُشير إلى أن الاستجابات مُولّدة بواسطة الذكاء الاصطناعي، وليس بواسطة البشر. هذه الأنظمة ليست مُرخصة، ونماذجنا مُصممة لتوجيه المستخدمين إلى طلب المساعدة من مُختصين طبيين أو مُختصين في السلامة عند الحاجة"

وبالمثل، أوضحت Character.ai أنها تستخدم إشعارات بارزة للتذكير بأن الشخصيات التي ينشئها المستخدمون ليست حقيقية، ولا ينبغي اعتبارها شخصيات مهنية. وقالت الشركة: "الشخصيات التي ينشئها المستخدمون على موقعنا خيالية، وهي مخصصة للترفيه، وقد اتخذنا خطوات جادة لتوضيح ذلك". 

إن الصراعين المزدوجين، تحقيق تجريه ولاية تكساس ومراجعة مجلس الشيوخ في واشنطن، يضعان ضغطاً جديداً على كيفية بناء روبوتات الدردشة التي تعمل بالذكاء الاصطناعي وتسويقها وإدارتها، وعلى ما تخبر به الشركات المستخدمين بشأن حدود الدعم الآلي.