أداة الكشف عن الصور من OpenAI تُظهر نتائج واعدة ولكنها تواجه تحديات

قد تخدعك الصور المولدة بالذكاء الاصطناعي وتجعلك تعتقد أن المحتوى المزيف أصلي. لهذا السبب، ابتكرت شركة OpenAI، مطورة ChatGPT، أداةً قادرة على تحديد ما إذا كانت الصورة ناتجة عن خوارزمية DALL-E 3، وهي الخوارزمية الوحيدة التي طورتها الشركة لتوليد الصور.

يوم الثلاثاء، أتاحت OpenAI للمستخدمين فرصةً لتجربة أداةٍ جديدةٍ للكشف عن الصور، تتألف من نماذج أساسية ونماذج مُحسّنة. والهدف من ذلك هو إشراك الباحثين المستقلين لدراسة مدى جدواها، وفوائدها، وطرق تطبيقها، والعوامل التي قد تُؤدي إلى ظهور محتوى مُولّد بواسطة الذكاء الاصطناعي. 

معدل نجاح الأداة واختبارها

اختبرت OpenAI الأداة داخليًا، وكانت نتائجها مشجعة في بعض الجوانب، ومخيبة للآمال في جوانب أخرى. عند تقييم الصور التي أنتجها DALL-E 3، تم عرض 98% منها بشكل صحيح. بالإضافة إلى ذلك، عند تحليل صور لم يلتقطها DALL-E 3، نسبها النظام خطأً إلى DALL-E 3 في 0.5% فقط من الحالات. 

لم يجد برنامج OpenAI أي تغيير يُذكر في الصورة. اختبر الفريق الداخلي الأداة من خلال ضغط الصورة التي أنشأها برنامج DALL-E 3، واقتصاصها، وتغيير تشبع ألوانها، ولاحظوا أن الأداة ما زالت قادرة على تحقيق مستوى جيد من النجاح. 

التحديات والقيود

لسوء الحظ، لم تكن الأداة فعّالة للغاية مع الصور التي خضعت لمعالجة مكثفة. لم توضح صياغة مقال OpenAI عدد التعديلات التي أجروها في الحالات المذكورة، وذكروا أن "تعديلات أخرى قد تُقلل من الأداء" 

في مقابلة مع صحيفة وول ستريت جورنال، صرّحت الباحثة سانديني أغاروال بأن الأداة أقل فعالية في حالات مثل تغيير لون الصورة، وأنها تتطلب اشتراكًا. وكما ذكرت أغاروال، ستستعين OpenAI بمختبرين خارجيين للنظام لمعالجة هذه المشكلات. 

علاوة على ذلك، شككت الاختبارات الداخلية في قدرة الأداة على تحليل الصور المُنشأة باستخدام نماذج الذكاء الاصطناعي من شركات أخرى. في مثل هذه الحالات، لم تتمكن أداة OpenAI من التعرف إلا على 5% أو 10% فقط من الصور مقارنةً بالنماذج الأخرى. وأوضح أغاروال للصحيفة أن هذه التعديلات في الصور، مثل تغيير تدرجات الألوان، تُقلل الكفاءة بشكل ملحوظ.

لا تقتصر مشكلة الصور المُولّدة بالذكاء الاصطناعي على كونها صورًا زائفة، بل تتعداها إلى إثارة إشكاليات في هذا العام الانتخابي. إذ يُمكن للجماعات المتضررة، داخل البلاد وخارجها، استخدام هذه الصور بسهولة لتشويه سمعة سياسي طموح أو قضية يتم الدفاع عنها. ومع استمرار تطور مولدات الصور بالذكاء الاصطناعي، بات التمييز بين الواقع والخيال أكثر صعوبة من أي وقت مضى. 

تبني الصناعة

من جهة أخرى، تسعى OpenAI إلى إضافة علامات مائية إلى بيانات الصور الوصفية للذكاء الاصطناعي، وذلك بالتزامن مع انضمام الشركات إلى منظمة قيمة المستخدم (UVG). وتندرج مبادرة C2PA ضمن مبادرة في قطاع التكنولوجيا، تتضمن معايير تقنية للكشف عن مصدر المحتوى ومصداقيته، في عملية تُعرف بالعلامات المائية. شركة Meta، عملاق فيسبوك، في وقت سابق من هذا الشهر، أن ذكاءها الاصطناعي سيُصنّف وفقًا لمعيار C2PA بدءًا من شهر مايو المقبل.