Google تفتح مصدر أداة العلامات المائية لتحديد النصوص التي أنشأها الذكاء الاصطناعي

- «لا ستؤثر أداة جوجل لكشف النصوص المولّدة بالذكاء الاصطناعي، سينثيد (SynthID)، على جودة ودقة النصوص.»
- ويُعد هذا خطوة صحيحة نحو التصدي لظاهرة التزييف العميق.
- وقد عملت شركات تقنية أخرى مثل أوبن إيه آي (OpenAI) على تطوير أداة تحديد علامات مائية للنصوص، لكنها تأخرت في إطلاقها.
فتحت Google مصدر أداة العلامات المائية SynthID Text، وهي تقنية تتيح للمستخدمين اكتشاف ما إذا كان النص أصلياً أم تم إنشاؤه بواسطة الذكاء الاصطناعي بسهولة.
وفقاً لـ Google، يمكن تنزيل كاشف النص الذي أنشأه الذكاء الاصطناعي من منصة الذكاء الاصطناعي Hugging Face ومجموعة أدوات Responsible GenAI المحدثة من Google. أصبحت العلامات المائية ذات أهمية كبيرة مع الازدهار في الذكاء الاصطناعي التوليدي خلال العامين الماضيين، حيث يتم التلاعب بنماذج اللغات الكبيرة (LLMs) لنشر المعلومات المضللة والمعلومات الخاطئة، وكذلك المحتوى الجنسي غير المتوافق والأغراض الخبيثة.
يأتي هذا التطور مع وجود إلحاح لتطوير مثل هذه الأدوات، حيث تعرب وكالة إنفاذ القانون التابعة للاتحاد الأوروبي عن قلقها من أن 90% من النصوص عبر الإنترنت قد تكون اصطناعية بحلول عام 2026، مما يجعل الدعاية والاحتيال والخداع منتشرة.
باحثو Google يشرحون أداة العلامات المائية الخاصة بهم
في منشور على منصة X، كشفت عميقة محركات البحث أنها تفتح مصدر أداة العلامات المائية SynthID Text قائلة إنها ستكون "متاحة مجاناً للشركات والمطورين لأنها ستساعدهم في تحديد محتواهم الذي تم إنشاؤه بواسطة الذكاء الاصطناعي".
بوش ميت كوهلي، نائب رئيس الأبحاث في Google DeepMind ومؤلف مشارك لورقة بحثية من Google DeepMind قال: "النظام لا يضر بوظائف نماذج الذكاء الاصطناعي بل يجعلها أفضل فقط".
كانت الصور ومقاطع الفيديو محورية في مناقشات بيانات اعتماد المحتوى، وتم تحديد العلامات المائية كحل ضروري لمكافحة التزييف العميق.
كما كان التحالف من أجل أصالة المحتوى وأصالته (C2PA)، وهو تعاون بين شركات التكنولوجيا ووسائل الإعلام الكبرى لوضع نظام لإرفاق بيانات تعريفية مشفرة للإشارة إلى ملفات الصور ومقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي، محورياً في هذه المناقشات.
وفقاً لورقة بحثية من Google DeepMind، يتداخل SynthID Text أثناء التوليد حيث يغير بعض الكلمات التي يخرجها روبوت الدردشة لتكون واضحة لكاشف SynthID ولكن شبه غير مرئية للبشر.
"تجلب التعديلات مثل هذه توقيعاً إحصائياً إلى النص الذي أنشأه الذكاء الاصطناعي، وأثناء مرحلة كشف العلامة المائية، يمكن قياس التوقيع لمعرفة ما إذا كان النص من نموذج ذكاء اصطناعي بواسطة نموذج لغة كبير (LLM) مُعلّم مائياً"، كتب الباحثون في الورقة.
من خلال توليد الجمل كلمة بكلمة، هذا هو كيفية عمل نماذج اللغات الكبيرة (LLMs) التي تشغل روبوتات الدردشة، حيث تختار الكلمة التالية المحتملة بناءً على سياق ما جاء قبلها. من خلال تخصيص درجات رقمية عشوائية للكلمات المرشحة، تنتج نماذج اللغات الكبيرة (LLMs) كلمات ذات درجة أعلى. سيتم وضع علامات مائية على قطعة نص تم تحليلها بواسطة الكاشف، وقد وُجدت أنها تحتوي على درجة أعلى.
اليوم، نفتح مصدر أداة العلامات المائية للنص SynthID من خلال مجموعة أدوات الذكاء الاصطناعي التوليدي المسؤول المحدثة.
متاحة مجاناً للمطورين والشركات، ستساعدهم في تحديد محتواهم الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. 🔍
اعرف المزيد → https://t.co/n2aYoeJXqn pic.twitter.com/4uRKYaz57Y
— Google DeepMind (@GoogleDeepMind) أكتوبر 23، 2024
خبراء الصناعة يمدحون Google لاتخاذها خطوة في الاتجاه الصحيح
على الرغم من أن نظام DeepMind يتفوق على الأدوات الأخرى في وضع العلامات المائية على النص، إلا أن الباحثين أقرّوا في ورقتهم البحثية بأن الأداة لا تزال بها عيوب. على سبيل المثال، إذا قمت بتعديل نص تم إنشاؤه بواسطة Gemini، فسيتم خداع الكاشف.
"بينما ليس SynthID حلاً سحرياً لتحديد المحتوى الذي أنشأه الذكاء الاصطناعي، إلا أنه لبنة بناء مهمة لتطوير أدوات تحديد أكثر موثوقية للذكاء الاصطناعي".
– كوهلي.
إذا قام المستخدمون بتعديل النصوص بشكل كبير أو استخدام روبوت دردشة آخر لتلخيص النص، فسيتم تضليل الكاشف في وضع العلامة المائية على النص الذي أنشأه الذكاء الاصطناعي.
تزعم Google أن SynthID Text لا يضر بالجودة أو الدقة أو سرعة توليد النص كما اختبره النظام المدمج داخل نماذج Gemini. وأضافت الشركة أيضاً أنه يعمل حتى على النصوص التي تم اقتطافها أو تعديلها أو إعادة صياغتها.
"يعد الكشف مشكلة خاصة عند البدء في مراعاة التنفيذ في المواقف الواقعية، حيث توجد مشاكل في مراجعة النص في البرية، حيث سيتعين عليك معرفة أي نموذج للعلامة المائية تم تطبيقه لمعرفة وأين يمكن العثور على الإشارة"، أوضح بروس ماك كورماك، عضو في لجنة توجيه C2PA.
بالإضافة إلى Google، تعمل OpenAI أيضاً على تقنية علامات مائية للنص بالذكاء الاصطناعي منذ سنوات لكنها أجلت إصدارها بسبب الجدوى التقنية والتجارية.
ولكن خبراء الصناعة مدحوا بشكل عام مبادرة Google كخطوة في الاتجاه الصحيح.
"إنها تحمل وعداً بتحسين استخدام بيانات اعتماد المحتوى الدائمة من C2PA للمستندات والنصوص الخام" قال أندرو جينكس، مدير إثبات أصل الوسائط في مايكروسوفت والرئيس التنفيذي لـ C2PA.
أضاف ماك كورماك أيضاً أنه بينما لا يزال لدى باحثي Google الكثير من العمل لجعل هذه حالة عملية، إلا أنها تظل مبادرة رائعة، و"الخطوة الأولى في ماراثون قادم".
أذكى العقول في عالم العملات الرقمية يقرأون بالفعل نشرتنا الإخبارية. هل تريد الانضمام؟ انضم إليهم.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات المقدمة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
Enacy Mapakame
إناسي ماباكامي صحفية تتمتع بأكثر من 10 سنوات من الخبرة في مجال الأخبار التجارية والمالية. وهي تغطي أسواق رأس المال والتقنيات الناشئة – مثل الميتافيرس والذكاء الاصطناعي والعملات الرقمية. وتحمل إناسي درجة بكالوريوس الآداب في دراسات الإعلام والمجتمع بتقدير امتياز.















