كشفت شركة ميتا، المعروفة سابقًا باسم فيسبوك، عن سياسة موسعة لمعالجة التحديات المرتبطة بانتشار يتم إنشاؤه بواسطة الذكاء الاصطناعي على منصاتها، بما في ذلك فيسبوك وإنستغرام وثريدز.
استجابةً لتزايد استخدام الذكاء الاصطناعي التوليدي، ستُضيف الشركة الآن ملصقات تحذيرية على الصور المُولّدة بواسطة الذكاء الاصطناعي لإعلام المستخدمين بأصولها الاصطناعية. ورغم أن هذه الخطوة تُعتبر إيجابية، إلا أن المخاوف لا تزال قائمة بشأن فعاليتها في مكافحة الجهات الخبيثة وحدود هذه التقنية.
ملصقات تحذيرية على الصور المولدة بالذكاء الاصطناعي
تتضمن أحدث تغييرات سياسة ميتا وضع علامات على الصور المولدة بالذكاء الاصطناعي، سواءً أكانت باستخدام أدواتها الخاصة أو تلك التي توفرها شركات أخرى، مع وضع علامات تشير إلى طبيعتها الاصطناعية. وتهدف هذه الخطوة إلى الحد من مخاطر انتشار المعلومات المضللة والمغلوطة عبر الصور المولدة بالذكاء الاصطناعي والتي تُعرض على أنها صور حقيقية.
تقوم شركة ميتا بتصنيف الصور التي ينتجها الذكاء الاصطناعي الخاص بها على أنها "متخيلة باستخدام الذكاء الاصطناعي"، وذلك بشكل أساسي عن طريقdentالعلامة المائية الرقمية المضمنة بواسطة خوارزمياتها في المخرجات.
التحديات والقيود
على الرغم من التزام ميتا بتطبيق هذه العلامات التحذيرية، لا تزال هناك تحديات كبيرة. أحد أبرز هذه التحديات هو أن العديد من أدوات توليد الصور بالذكاء الاصطناعي لا تضع علامات مائية على مخرجاتها، مما يسهل على الجهات الخبيثة التلاعب بالمحتوى المُولّد بالذكاء الاصطناعي ونشره دون الكشف عن هويته.
علاوة على ذلك، لا تزال التقنية اللازمة لاكتشاف الصور التي تولدها الذكاء الاصطناعي وتصنيفها بشكل موثوق قيد التطوير، ولا يوجد معيار عالمي معمول به.
سعت مبادرة "تحالف مصدر المحتوى ومصداقيته" (C2PA)، التي أسستها شركة أدوبي، إلى توحيد جهود الشركات في مجال مصدر المحتوى. ومع ذلك، فإن التقنية المطورة حتى الآن ليست مثالية.
أظهر الباحثون مدى سهولة كسر العلامات المائية أو إضافتها إلى الصور غير المولدة بواسطة الذكاء الاصطناعي، مما يقوض فعاليتها.
يحذر هاني فريد، الأستاذ في كلية المعلومات بجامعة كاليفورنيا في بيركلي والذي يقدم المشورة لمبادرة C2PA، من أن الجهات الخبيثة قد تستخدم أدوات الذكاء الاصطناعي التي لا تضع علامات مائية على مخرجاتها لخداع المستخدمين بشكل أكبر.
يقترح أن الجمع بينdentالتجزئة وتقنية، قد يكون ضروريًا لتحديد المحتوى المُولّد بواسطة الذكاء الاصطناعي بدقةdentولا تزال تقنية العلامات المائية أقل تطورًا بالنسبة للوسائط المُولّدة بواسطة الذكاء الاصطناعي خارج نطاق الصور، مثل الصوت والفيديو.
توسيع السياسات والرقابة
رغم أن سياسات ميتا الجديدة تمثل خطوةً للأمام في مكافحة المحتوى المُزيّف، إلا أنها لا تقتصر على المواد المُولّدة بواسطة الذكاء الاصطناعي. فقد أيّد مجلس الرقابة التابع للشركة، والمؤلف من خبراءdent ، مؤخراً قرار ميتا بالإبقاء على فيديوdent جو بايدن تم تعديله لخلق انطباع مُضلّل.
يسلط هذا القرار الضوء على حاجة ميتا إلى مراجعة وتوسيع قواعدها الخاصة بـ "الوسائط المُتلاعب بها" لتشمل أكثر من مجرد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.
يقر المتحدث باسم شركة ميتا، كيفن ماكاليستر، بالحاجة إلى اتباع نهج أوسع، قائلاً: "بينما بدأت الشركات في تضمين الإشارات في مولدات الصور الخاصة بها، إلا أنها لم تبدأ في تضمينها في أدوات الذكاء الاصطناعي التي تولد الصوت والفيديو على نفس النطاق"
وعليه، تعمل شركة Meta على إضافة ميزة تتيح للمستخدمين الكشف عن المعلومات عند مشاركة مقاطع الفيديو أو الصوت التي تم إنشاؤها بواسطة الذكاء الاصطناعي حتى يمكن تطبيق التصنيفات المناسبة.
