أفضل المعلومات حول العملات الرقمية تصلك مباشرة إلى بريدك الإلكتروني.
أطلقت جوجل أداة مفتوحة المصدر لوضع العلامات المائية لتمكين المستخدمين منdentالنصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي
إيناسي ماباكامي
- "لن يؤثر كاشف النصوص الذي يولده الذكاء الاصطناعي من جوجل، SynthID، على جودة ودقة النصوص."
- يُنظر إلى هذا على أنه الخطوة الصحيحة نحو معالجة التزييف العميق.
- عملت شركات تقنية أخرى مثل OpenAI على أداة لوضع علامات مائية على النصوص، لكنها أخرت إصدارها.
أتاحت جوجل أداة SynthID لوضع العلامات المائية على النصوص كمصدر مفتوح، وهي تقنية تمكن المستخدمين من اكتشاف ما إذا كان النص أصليًا أم تم إنشاؤه بواسطة الذكاء الاصطناعي بسهولة.
بحسب جوجل، يمكن تحميل أداة كشف النصوص المُولّدة بالذكاء الاصطناعي من منصة Hugging Face ومن مجموعة أدوات الذكاء الاصطناعي المُحدّثة Responsible GenAI Toolkit. وقد اكتسبت العلامات المائية أهمية بالغة مع ازدهار الذكاء الاصطناعي التوليدي خلال العامين الماضيين، حيث يتم التلاعب بالنماذج الرقمية لنشر معلومات مضللة ومغلوطة، بالإضافة إلى محتوى جنسي غير توافقي ولأغراض خبيثة.
يأتي هذا التطور في ظل الحاجة الملحة لتطوير مثل هذه الأدوات، حيث وكالة إنفاذ القانون التابعة للاتحاد الأوروبي عن قلقها من أن 90% من النصوص على الإنترنت قد تكون مصطنعة بحلول عام 2026، مما يجعل الدعاية والاحتيال والخداع منتشرة على نطاق واسع.
يشرح باحثو جوجل أداة وضع العلامات المائية الخاصة بهم
في منشور على منصة X، كشفت شركة محركات البحث العملاقة أنها ستجعل أداة SynthID Text الخاصة بها مفتوحة المصدر، قائلة إنها ستكون "متاحة مجانًا للشركات والمطورين لأنها ستساعدهم فيdentالمحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي".
بوشميت كوهلي، نائب رئيسdent الأبحاث في جوجل ديب مايند والمؤلف المشارك لورقة بحثية من جوجل ديب مايند: "النظام لا يضر بوظائف نماذج الذكاء الاصطناعي ولكنه يجعلها أفضل".
لقد كانت الصور ومقاطع الفيديو محورًا أساسيًا في المناقشات المتعلقة ببياناتdentالمحتوى، وتم تحديد العلامات المائية كحل ضروري لمكافحة التزييف العميق.
التحالف من أجل أصل المحتوى ومصداقيته (C2PA)، وهو تعاون بين شركات التكنولوجيا ووسائل الإعلام الرئيسية لوضع نظام لإرفاق البيانات الوصفية المشفرة للإشارة إلى ملفات الصور والفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي، محورياً في هذه المناقشات.
وفقًا للورقة البحثية لشركة جوجل ديب مايندز، فإن نص SynthID يتداخل أثناء عملية التوليد لأنه يغير بعض الكلمات التي يصدرها برنامج الدردشة الآلي لتكون واضحة لكاشف SynthID ولكنها غير مرئية تقريبًا للبشر.
وكتب الباحثون في الورقة البحثية: "إن التعديلات من هذا القبيل تُدخل توقيعًا إحصائيًا في النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، وخلال مرحلة الكشف عن العلامة المائية، يمكن قياس التوقيع لمعرفة ما إذا كان النص من نموذج الذكاء الاصطناعي بواسطة نموذج LLM ذي العلامة المائية".
تعمل نماذج التعلم الآلي (LLMs) التي تُشغّل برامج الدردشة الآلية من خلال توليد الجمل كلمةً كلمة، حيث تختار الكلمة التالية المحتملة بناءً على سياق النص السابق. ومن خلال تخصيص درجات رقمية عشوائية للكلمات المرشحة، تُنتج هذه النماذج كلمات ذات درجات أعلى. وسيتم وضع علامات مائية على نص تم تحليله بواسطة نظام الكشف، وثبت أنه يحمل درجة أعلى.
اليوم، نقوم بنشر أداة SynthID الخاصة بنا لوضع العلامات المائية على النصوص كمصدر مفتوح من خلال مجموعة أدوات الذكاء الاصطناعي التوليدي المسؤول المحدثة.
متاح مجاناً للمطورين والشركات، وسيساعدهم علىdentالمحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. 🔍
للمزيد من المعلومات → https://t.co/n2aYoeJXqn pic.twitter.com/4uRKYaz57Y
— جوجل ديب مايند (@GoogleDeepMind) ٢٣ أكتوبر ٢٠٢٤
أشاد خبراء الصناعة بشركة جوجل لخطوتها في الاتجاه الصحيح
على الرغم من تفوق نظام DeepMind على الأدوات الأخرى في وضع العلامات المائية على النصوص، أقرّ الباحثون في ورقتهم البحثية بوجود عيوب في هذه الأداة. فعلى سبيل المثال، إذا قمت بتعديل نصٍّ مُولّد بواسطة Gemini، فسوف ينخدع نظام الكشف.
"على الرغم من أن SynthID ليس حلاً سحرياً لتحديد المحتوى الذي تمdentالذكاء الاصطناعي، إلا أنه يمثل لبنة أساسية مهمة لتطوير أدوات تحديدdentبالذكاء الاصطناعي أكثر موثوقية."
– كوهلي.
إذا قام المستخدمون بتغيير النصوص بشكل كبير أو استخدموا روبوت محادثة آخر لتلخيص النص، فسوف يضلل نظام الكشف في وضع العلامات المائية على النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.
تؤكد جوجل أن تقنية SynthID Text لا تؤثر على جودة ودقة وسرعة توليد النصوص، وذلك وفقًا لاختبارات النظام المدمج في طرازات Gemini. وأضافت الشركة أن هذه التقنية تعمل حتى مع النصوص التي تم اقتصاصها أو تعديلها أو إعادة صياغتها.
"يمثل الكشف مشكلة خاصة عندما يبدأ المرء في مراعاة التنفيذ في المواقف الحقيقية، حيث توجد مشاكل في مراجعة النصوص في الواقع، حيث سيتعين على المرء معرفة نموذج العلامات المائية الذي تم تطبيقه ومعرفة مكان وجود الإشارة"، أوضح بروس ماكورماك، عضو اللجنة التوجيهية لـ C2PA.
إلى جانب جوجل، تعمل شركة OpenAI أيضًا على تقنية وضع العلامات المائية النصية بالذكاء الاصطناعي منذ سنوات، لكنها أخرت إصدارها بسبب الجدوى التقنية والتجارية.
لكن خبراء الصناعة أشادوا عموماً بمبادرة جوجل باعتبارها خطوة في الاتجاه الصحيح.
"إنها تحمل وعدًا بتحسين استخدام بياناتdentالمحتوى الدائمة من C2PA للمستندات والنصوص الخام" قال أندرو جينكس، مدير قسم مصادر الوسائط في مايكروسوفت والرئيس التنفيذي لـ C2PA.
وأضاف ماكورماك أيضًا أنه على الرغم من أن باحثي جوجل لا يزال أمامهم الكثير للقيام به لجعل هذا الأمر عمليًا، إلا أنه يظل مبادرة عظيمة، و"الخطوة الأولى في الماراثون المقبل"
إذا كنت تقرأ هذا، فأنت متقدم بالفعل. ابقَ متقدماً من خلال نشرتنا الإخبارية.
إخلاء مسؤولية: المعلومات الواردة هنا ليست نصيحة استثمارية. Cryptopolitanموقع أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات الواردة في هذه الصفحة. ننصحtrondentdentdentdentdentdentdentdent /أو استشارة مختص مؤهل قبل اتخاذ أي قرارات استثمارية.
دورة
- أي العملات المشفرة يمكن أن تدر عليك المال
- كيفية تعزيز أمانك باستخدام المحفظة الإلكترونية (وأي منها يستحق الاستخدام فعلاً)
- استراتيجيات استثمارية غير معروفة يستخدمها المحترفون
- كيفية البدء في الاستثمار في العملات المشفرة (أي منصات التداول التي يجب استخدامها، وأفضل العملات المشفرة للشراء، إلخ)