أداة كشف صور OpenAI تظهر نتائج واعدة لكنها تواجه تحديات

يمكن للصور المولَّدة بالذكاء الاصطناعي أن تخدعك وتجعلك تظنّ أن المحتوى المزيف أصلي. ولهذا السبب، أنشأت OpenAI، مطوِّرة ChatGPT أداة يمكنها تحديد ما إذا كانت الصورة ناتجة عن DALL-E 3، وهو الخوارزمية الوحيدة لتوليد الصور التي طوّرتها.

في يوم الثلاثاء، منحت OpenAI المستخدمين الفرصة الأولى لتجربة أداة كشف الصور التي تتضمّن نماذج أساسية ونماذج مُعدّلة. الهدف هو إشراك باحثين ذاتيين لفحص مدى القلق، وفائدة الأداة، وسبل تطبيقها، والعوامل التي قد تسبّب محتوىً مولَّدًا بالذكاء الاصطناعي.

معدل نجاح الأداة واختباراتها

اختبرت OpenAI الأداة داخليًا، وكانت النتائج مشجعة في بعض الجوانب، بينما كانت مخيبة للآمال في جوانب أخرى. وقد أظهر تقييم الصور المنتَجة بواسطة DALL-E 3 دقة بنسبة 98%. بالإضافة إلى ذلك، عند تحليل الصور غير المُنْتَجَة بواسطة DALL-E 3، كان النظام يُنسب إليها خطأً أنها من إنتاج DALL-E 3 بنسبة 0.5% فقط. 

لم تجد OpenAI تعديلاً على صورة بفرق طفيف ذي أهمية. اختبر الفريق الداخلي الأداة عن طريق ضغط الصور وتقطيعها وإدخال تغييرات في التشبع للصورة التي أنشأها DALL-E 3، ولاحظوا أن الأداة لا تزال قادرة على تحقيق مستوى جيد من النجاح. 

التحديات والقيود

لسوء الحظ، لم تكن الأداة فعالة جداً مع الصور التي خضعت لمعالجة مكثفة. صياغة هذه المقالة من قبل OpenAI غير واضحة بشأن عدد التعديلات التي أجروها في الحالات التي يصفونها، وهم يقولون إن «التعديلات الأخرى قد تقلل من الأداء». 

في مقابلة مع صحيفة وول ستريت جورنال، قالت سانديني أغاروال، إحدى الباحثات، إن الأداة أقل فعالية في حالات مثل تغيير لون الصورة، كما أنها تتطلب اشتراكًا. وأضافت أغاروال أنه للتصدي لهذه الأنواع من المشكلات، ستقوم OpenAI بإدخال مختبرين خارجيين إلى النظام.

علاوة على ذلك، شكّك الاختبار الداخلي أيضاً في قدرة الأداة على تحليل الصور المُنشأة بواسطة نماذج الذكاء الاصطناعي لشركات أخرى. في مثل هذه الحالات، كانت أداة OpenAI قادرة على التعرف على 5% أو 10% فقط من الصور مقارنة بالنماذج الأخرى. كما أن التعديلات في مثل هذه الصور، مثل تبديل درجات اللون، قلّلت الكفاءة بشكل كبير، وفقاً لما قاله أغاروال للمجلة.

الصور المصنوعة بالذكاء الاصطناعي ليست مجرد صور صناعية فحسب، بل تطرح أيضًا مشاكل في سنة الانتخابات هذه. يمكن للمجموعات المتضرّرة، سواء داخل الدولة أو خارجها، استخدام هذه الصور بسهولة لتشويه سمعة سياسي ناشئ أو قضية يُناضل من أجلها. وفي الوقت الذي تستمر فيه أدوات توليد الصور بالذكاء الاصطناعي في التطور، أصبح التمييز بين الواقع والخيال أصعب من أي وقت مضى.

تبني الصناعة

من ناحية أخرى، تسعى OpenAI إلى إضافة علامات مائية إلى بيانات الصور المُولَّدة بالذكاء الاصطناعي مع انضمام الشركات إلى منظمة قيمة المستخدم (UVG). ينتمي C2PA إلى مبادرة في قطاع التكنولوجيا تأتي بمعايير تقنية لكشف مصدر المحتوى ومصداقيته في عملية تُعرف بالعلامة المائية. وقالت عملاقة فيسبوك Meta في وقت سابق من هذا الشهر إن ذكاءها الاصطناعي سيُصنَّف وفقًا لمعيار C2PA بدءًا من شهر مايو.