دقّ مهندس في مايكروسوفت ناقوس الخطر بشأن مولد الصور المدعوم بالذكاء الاصطناعي، محذرًا من ميله لإنتاج محتوى عنيف وجنسي متجاهلًا قوانين حقوق النشر. شين جونز، مدير هندسة البرمجيات الرئيسي في مايكروسوفت، كان يختبر المنتج، المعروف باسم "كوبايلوت ديزاينر"، في أوقات فراغه. وقد دفعته النتائج التي توصل إليها، والتي تضمنت صورًا مقلقة كالشياطين إلى جانب مواضيع تتعلق بحقوق الإجهاض، وشرب الكحول من قبل القاصرين، وتعاطي المخدرات، إلى تصعيد الأمر إلى جهات أعلى.
مخاوف جونز والإجراءات المتخذة
بدأ جونز، الذي يعمل في مايكروسوفت منذ ست سنوات، باختبار برنامج Copilot Designer كجزء من دوره كعضو في فريق اختبار الاختراق، والمكلفdentالثغرات الأمنية في تقنية الذكاء الاصطناعي. وقد انزعج جونز من الصور التي ينتجها البرنامج، والتي اعتبرها غير آمنة وربما ضارة، فأبلغ مايكروسوفت داخليًا بنتائجه، لكنه وجد الشركة مترددة في اتخاذ إجراء حاسم. ورغم جهوده لإثارة المخاوف، بما في ذلك نشر رسالة مفتوحة على لينكدإن والتواصل مع أعضاء مجلس الشيوخ الأمريكي، شعر جونز بأنه مضطر لتصعيد الأمر.
تصعيد الأمر إلى رئيس لجنة التجارة الفيدرالية ومجلس إدارة مايكروسوفت
في محاولة لمعالجة المشكلات المستمرة المتعلقة ببرنامج Copilot Designer، أرسل جونز رسائل إلى رئيسة لجنة التجارة الفيدرالية، لينا خان، ومجلس إدارة مايكروسوفت. وحثّ اللجنة على التحقيق في الأمر، ودعا مايكروسوفت إلى إدخال تغييرات، مثل إضافة إفصاحات إلى المنتج وتعديل تصنيف التطبيق ليعكس المحتوى الموجّه للبالغين. كما طلب جونز من مجلس إدارة مايكروسوفت بدء مراجعةdent لعمليات الإبلاغ عنdent الذكاء الاصطناعي المسؤولة في الشركة.
مخاوف بشأن الذكاء الاصطناعي التوليدي وانعدام الرقابة
تُسلّط تصرفات جونز الضوء على مخاوف أوسع نطاقًا بشأن غياب الرقابة على تقنية الذكاء الاصطناعي التوليدي. ونظرًا لاحتمالية انتشار المحتوى الضار على نطاق واسع، لا سيما في سياق الانتخابات المقبلة، يُشدّد جونز على الحاجة المُلحة إلى ضمانات أكثر صرامة. ويُشير إلى أن فريق Copilot يتلقى يوميًا العديد من رسائل التعليقات على المنتج، مما يُشير إلى صعوبة كبيرة في معالجة جميع المشكلات على الفور.
انتهاك حقوق النشر ومشاكل المحتوى
إلى جانب إنشاء صور عنيفة وجنسية، يثير برنامج Copilot Designer مخاوف بشأن انتهاك حقوق الملكية الفكرية. فقد لوحظ أن البرنامج يُنتج صورًا لشخصيات محمية بحقوق الملكية الفكرية، مثل شخصية إلسا من ديزني وشخصيات حرب النجوم، مما قد يُخالف قوانين حقوق الملكية الفكرية وسياسات مايكروسوفت. ويؤكد جونز أن المشكلة تتجاوز انتهاكات حقوق الملكية الفكرية، مُسلطًا الضوء على الآثار الأوسع نطاقًا لانتشار الصور الضارة والمُقلقة عالميًا.
تُبرز جهود شين جونز لمعالجة المخاوف المحيطة بمولد الصور بالذكاء الاصطناعي من مايكروسوفت الحاجة المتزايدة إلى رقابة وتنظيم صارمين في مجال الذكاء الاصطناعي التوليدي. وتُعدّ إجراءاته بمثابة دعوة للعمل لكل من الهيئات التنظيمية وشركات التكنولوجيا لإعطاء الأولوية لسلامة واستخدام تقنيات الذكاء الاصطناعي بشكل أخلاقي.
