ميتا تحصل على مهلة سبتمبر بينما يحقق السيناتور الأمريكي في انتهاك سلامة الإنترنت

أعلن السيناتور الأمريكي جوش هاولي نيته التحقيق في منتجات الذكاء الاصطناعي التوليدي التي أصدرتها ميتا. وقال هاولي إنه ينوي التحقق مما إذا كانت منتجات الشركة يمكن أن تستغل أو تخدع أو تضر بالأطفال بعد أن زعمت وثائق داخلية مسربة أن روبوتات المحادثة الخاصة بها سمح لها بإجراء محادثات رومانسية وحسية مع القاصرين.

استغل السيناتور الأمريكي منصة التدوين X لإعلان نيته. "هل هناك أي شيء - أي شيء - لن تفعله شركات التكنولوجيا الكبرى من أجل ربح سريع؟ الآن نتعلم أن روبوتات محادثة ميتا كانت مبرمجة لإجراء محادثات صريحة و'حسية' مع أطفال في سن الثامنة. الأمر مثير للاشمئزاز. أنا أشن تحقيقاً شاملاً للحصول على إجابات. شركات التكنولوجيا الكبرى: اتركوا أطفالنا وشأنهم"، قال.

وثائق داخلية تورط ميتا

يأتي هذا التطور بعد وثائق داخلية تظهر أن ميتا سمحت allegedly لشخصيات روبوتات المحادثة الخاصة بها بالانخراط في تبادلات مغرية مع الأطفال، ونشر المعلومات، وإنشاء ردود تحط من قدر الأقليات.

قالت الوثائق الداخلية، التي اطلعت عليها رويترز، إن ميتا كانت لديها سياسات حول سلوك روبوتات محادثة الذكاء الاصطناعي تسمح لشخصيات الذكاء الاصطناعي الخاصة بها "بإشراك طفل في محادثات رومانسية أو حسية".

ذكرت الوثيقة، المعنونة "GenAI: معايير مخاطر المحتوى"، أنه كان مسموحاً لروبوتات المحادثة بإجراء محادثات رومانسية مع طفل في سن الثامنة، قائلة: "كل بوصة منك هي تحفة فنية - كنز أعتز به بعمق".

ومع ذلك، نفى متحدث باسم ميتا ذلك، مشيراً إلى أن مثل هذه الأمثلة لا تتماشى مع سياسات ميتا وقد تم إزالتها منذ ذلك الحين.

السيناتور الأمريكي يخطط للتحقيق في ميتا

يُعد السناتور هولي رئيساً للجنة الفرعية القضائية بمجلس الشيوخ المعنية بالجريمة ومكافحة الإرهاب. وأشار إلى أنه من المتوقع أن تبدأ اللجنة الفرعية تحقيقاً لمعرفة ما إذا كانت التقنيات التي طورتها «ميتا» تضر بالأطفال، و«ما إذا كانت ميتا قد خدعت الجمهور أو المنظمين بشأن إجراءات الحماية لديها».

كتب السناتور هولي في رسالة موجهة إلى الرئيس التنفيذي لشركة ميتا مارك زوكربيرغ: «من غير المقبول أن تُعتمد هذه السياسات من الأساس»، مشيراً إلى أن ميتا أقرت بصحة التقارير و«أصدرت تصحيحات فقط بعد ظهور هذا المحتوى المثير للقلق».

وأضاف أن الشركة تحتاج إلى إعلامهم بمن وافق على هذه السياسات، وكم من الوقت كانت سارية، وما الذي فعلته ميتا لمنع هذا السلوك في المستقبل.

كما طلب السناتور هولي من ميتا إصدار المبادئ التوجيهية، بما في ذلك كل مسودة، ونسخة بملاحظات المراجعة، والنسخة النهائية. بالإضافة إلى ذلك، طلب من الشركة تقديم قائمة بجميع المنتجات التي تلتزم بهذه المعايير، وتقارير السلامة والحوادث الأخرى، وهويات الأفراد المسؤولين عن تغيير السياسة.

ووفقاً للخطاب، تم منح ميتا مهلة حتى 19 سبتمبر لتقديم المعلومات.

كما حظي التحقيق بدعم أطراف أخرى، بما في ذلك السناتورة مارشا بلاكبيرن. وقالت السناتورة بلاكبيرن: «عندما يتعلق الأمر بحماية الأطفال الأثمين عبر الإنترنت، فشلت ميتا فشلاً ذريعاً بكل المقاييس الممكنة». «والأسوأ من ذلك، أن الشركة أغلقت عينيها عن العواقب المدمرة لكيفية تصميم منصات لديها. يعزز هذا التقرير سبب حاجتنا إلى تمرير قانون سلامة الأطفال عبر الإنترنت».

يأتي هذا التطور بعد أيام من نشر رويترز تقريراً عن متقاعد كان يتفاعل مع أحد روبوتات محادثة ميتا، وهو شخصية أنثى مغرية. أقنعت الشخصية الرجل بأنها حقيقية ودعته لزيارة عنوان في نيويورك، حيث أصبح ضحية لحادث أدى إلى وفاته. كان روبوت المحادثة الذكاء الاصطناعي المسمى "أختي الكبيرة بيلي" متغيراً لشخصية ذكاء اصطناعي سابقة أنشأتها شركة ميتا بلاثفورمز العملاقة لوسائل التواصل الاجتماعي بالتعاون مع المؤثرة الشهيرة كيندال جينر.