مهندس مايكروسوفت يثير مخاوف بشأن إنشاء أداة الذكاء الاصطناعي لصور عنيفة وجنسية

أطلق مهندس في مايكروسوفت إنذاراً بشأن مولد صور الذكاء الاصطناعي التابع للشركة، محذراً من ميله لإنتاج محتوى عنيف وجنسي مع تجاهل قوانين حقوق النشر. كان شين جونز، مدير هندسة البرمجيات الرئيسي في مايكروسوفت، يختبر المنتج بنشاط، المعروف باسم Copilot Designer، في وقت فراغه. وقد دفعته اكتشافاته، التي تتضمن صوراً مزعجة مثل الشياطين مع مواضيع حقوق الإجهاض، وشرب القاصرين للكحول، وتعاطي المخدرات، إلى تصعيد الأمر إلى السلطات العليا.

مخاوف جونز والإجراءات المتخذة

بدأ جونز، الذي عمل في مايكروسوفت لمدة ست سنوات، في اختبار Copilot Designer كجزء من دوره كعضو في فريق الاختبار الأحمر، والمكلف بتحديد نقاط الضعف في تكنولوجيا الذكاء الاصطناعي. ومذعوراً من الصور التي ولدها الأداة، والتي اعتبرها غير آمنة وضارة محتملاً، أبلغ جونز عن اكتشافاته داخلياً إلى مايكروسوفت لكنه وجد الشركة مترددة في اتخاذ إجراء حاسم. وعلى الرغم من جهوده لرفع المخاوف، بما في ذلك نشر رسالة مفتوحة على LinkedIn والاتصال بشيوخ الولايات المتحدة، شعر جونز بأنه مضطر لتصعيد القضية أكثر.

التصعيد إلى رئيس لجنة التجارة الفيدرالية ومجلس إدارة مايكروسوفت

في محاولة لمعالجة القضايا المستمرة مع Copilot Designer، أرسل جونز رسائل إلى رئيس لجنة التجارة الفيدرالية لينا خان ومجلس إدارة مايكروسوفت. وحث لجنة التجارة الفيدرالية على التحقيق في الأمر ودعا مايكروسوفت إلى تنفيذ تغييرات مثل إضافة إفصاحات إلى المنتج وتعديل تصنيف التطبيق ليعكس المحتوى الناضج. كما طلب جونز من مجلس إدارة مايكروسوفت بدء مراجعة مستقلة لعمليات الإبلاغ عن حوادث الذكاء الاصطناعي المسؤولة في الشركة.

مخاوف بشأن الذكاء الاصطناعي التوليدي ونقص الإشراف

تسلط إجراءات جونز الضوء على مخاوف أوسع بشأن نقص الإشراف حول تكنولوجيا الذكاء الاصطناعي التوليدي. مع إمكانية الانتشار الواسع للمحتوى الضار، لا سيما في سياق الانتخابات القادمة، يؤكد جونز على الحاجة الملحة لمزيد من الضوابط الصارمة. ويلاحظ أن فريق Copilot يتلقى العديد من رسائل ملاحظات المنتج يومياً، مما يشير إلى تحدي كبير في معالجة جميع القضايا على الفور.

انتهاك حقوق النشر وقضايا المحتوى

إلى جانب إنشاء صور عنيفة وجنسية، يثير Copilot Designer أيضاً مخاوف بشأن انتهاك حقوق النشر. وقد لوحظ أن الأداة تولد صوراً تحتوي على شخصيات محمية بحقوق النشر مثل إلسا من ديزني وشخصيات حرب النجوم، مما قد ينتهك قوانين حقوق النشر وسياسات مايكروسوفت. ويؤكد جونز أن القضية تتجاوز انتهاكات حقوق النشر، مسلطاً الضوء على الآثار الأوسع لنشر صور ضارة ومزعجة على مستوى العالم.

تسلط جهود شين جونز لمعالجة المخاوف المحيطة بمولد صور الذكاء الاصطناعي في مايكروسوفت الضوء على الحاجة المتزايدة للإشراف والتنظيم القويين في مجال الذكاء الاصطناعي التوليدي. وتعمل إجراءاته كنداء للعمل لكل من السلطات التنظيمية وشركات التكنولوجيا لإعطاء الأولوية لسلامة واستخدام تقنيات الذكاء الاصطناعي بشكل أخلاقي.