ميتا تعلن عن سياسة موسعة لتصوير الصور التي ينتجها الذكاء الاصطناعي

كشفت شركة Meta، المعروفة سابقاً باسم Facebook، عن سياسة موسعة لمعالجة التحديات المرتبطة بالانتشار المتزايد للمحتوى المُولد بالذكاء الاصطناعي على منصاتها، بما في ذلك Facebook وInstagram وThreads.

رداً على الاستخدام المتزايد للذكاء الاصطناعي التوليدي، ستقوم الشركة الآن بتنفيذ علامات تحذيرية على الصور المُولدة بالذكاء الاصطناعي لإعلام المستخدمين بأصولها الاصطناعية. وعلى الرغم من اعتبار هذه الخطوة خطوة إيجابية، لا تزال هناك مخاوف بشأن فعاليتها في مكافحة الجهات الخبيثة والقيود المفروضة على التكنولوجيا.

علامات تحذيرية على الصور المُولدة بالذكاء الاصطناعي

يتضمن أحدث تحول في سياسة Meta وضع علامات على الصور المُولدة بالذكاء الاصطناعي، سواء تم إنشاؤها باستخدام أدوات الذكاء الاصطناعي التوليدي الخاصة بها أو تلك المقدمة من شركات أخرى، مع علامات تشير إلى طبيعتها الاصطناعية. يهدف هذا الإجراء إلى تقليل خطر نشر المعلومات المضللة والمعلومات الخاطئة من خلال الصور المُولدة بالذكاء الاصطناعي التي تُقدم على أنها صور حقيقية.

 كانت Meta تضع علامات على الصور المنتجة بواسطة ذكائها الاصطناعي باسم "تم تخيلها بالذكاء الاصطناعي"، وذلك بشكل أساسي من خلال تحديد العلامة المائية الرقمية المضمنة بواسطة خوارزمياتها في المخرجات.

التحديات والقيود

على الرغم من التزام Meta بتنفيذ هذه العلامات التحذيرية، لا تزال هناك تحديات كبيرة. إحدى التحديات البارزة هي أن العديد من أدوات توليد الصور بالذكاء الاصطناعي لا تضع علامات مائية على مخرجاتها، مما يسهل على الجهات الخبيثة التلاعب بنشر المحتوى المُولد بالذكاء الاصطناعي دون الإفصاح عنه. 

علاوة على ذلك، لا تزال التكنولوجيا اللازمة للكشف الموثوق عن الصور المُولدة بالذكاء الاصطناعي ووضع العلامات عليها قيد التطوير، ولا يوجد معيار عالمي مُطبق.

حاولت ائتلاف أصالة وإثبات محتوى المحتوى (C2PA)، وهي مبادرة أسستها Adobe، مواءمة عمل الشركات بشأن إثبات أصل المحتوى. ومع ذلك، فإن التكنولوجيا المطورة حتى الآن ليست معصومة من الخطأ. 

أظهر الباحثون سهولة كسر العلامات المائية أو إضافتها إلى الصور غير المُولدة بالذكاء الاصطناعي، مما يقوض فعاليتها.

يحذر هاني فاريد، الأستاذ في كلية المعلومات بجامعة كاليفورنيا في بيركلي والمستشار لمبادرة C2PA، من أن الجهات الخبيثة قد تستخدم أدوات الذكاء الاصطناعي التي لا تضع علامات مائية على مخرجاتها لإرباك المستخدمين أكثر. 

ويقترح أن مزيجاً من طرق التعريف، مثل وضع العلامات المائية والتكنولوجيا المستندة إلى التجزئة، قد يكون ضرورياً لتحديد المحتوى المُولد بالذكاء الاصطناعي بشكل قوي. وتعد تقنية العلامات المائية أقل تطوراً بالنسبة لوسائط الذكاء الاصطناعي المُولدة بخلاف الصور، مثل الصوت والفيديو.

توسيع السياسات والإشراف

بينما تمثل السياسات الجديدة لخطوة نحو الأمام في مكافحة المحتوى المزيف، فهي لا تقتصر على المواد المُولدة بالذكاء الاصطناعي. وقد أيدت لجنة الإشراف التابعة للشركة، المكونة من خبراء مستقلين، مؤخراً قرار Meta بترك فيديو للرئيس جو بايدن تم تعديله لخلق انطباع مضلل. 

يبرز هذا القرار الحاجة إلى مراجعة وتوسيع قواعد Meta الخاصة بـ "الوسائط المتلاعب بها" لتشمل أكثر من مجرد المحتوى المُولد بالذكاء الاصطناعي.

يعترف متحدث باسم Meta، كيفن ماكأليستر، بالحاجة إلى نهج أوسع، قائلاً: "بينما تبدأ الشركات في تضمين إشارات في مولدات الصور الخاصة بها، لم تبدأ بعد في تضمينها في أدوات الذكاء الاصطناعي التي تولد الصوت والفيديو بنفس الحجم." 

وبالتالي، تعمل Meta على إضافة ميزة تتيح للمستخدمين الإفصاح عند مشاركة الفيديو أو الصوت المُولد بالذكاء الاصطناعي بحيث يمكن تطبيق العلامات المناسبة.