أجّلت شركة OpenAI إصدار أداتها التي طال انتظارها، والمُصممة لاكتشاف النصوص المُولّدة بواسطة نموذج ChatGPT. ووفقًا للتقارير، تأخر الإطلاق بسبب مشاكل محتملة قد تؤثر على تجربة المستخدم والنظام البيئي.
صحيفة وول ستريت جورنال ذكرت أن شركة OpenAI كانت تستعد لإطلاق الأداة خلال العام الماضي، لكنها لم تفعل ذلك، ويعود السبب الرئيسي إلى المخاطر والمشاكل المتعددة. ويبدو أن قرار تأجيل إطلاق الأداة مرتبط أيضًا بآراء المستخدمين. ففي استطلاع رأي أجرته OpenAI، تبين أن ما يقرب من ثلث مستخدمي ChatGPT المخلصين قد يترددون في استخدام تقنية مكافحة الغش.
كيف تعمل أداة مكافحة الغش
وبحسب مركز الديمقراطية والتكنولوجيا، يعتقد 59% من معلمي المدارس المتوسطة والثانوية أنdentاستخدموا الذكاء الاصطناعي في واجباتهم المدرسية، وهي زيادة عن العام السابق.
تعمل أداة مكافحة الغش عن طريق تضمين علامة مائية في النص المكتوب بواسطة الذكاء الاصطناعي. على الرغم من أن هذه العلامة المائية غير مرئية للعين المجردة، إلا أن تقنية الكشف من OpenAI قادرة على اكتشافها. توفر الأداة درجة تمثل احتمالية كتابة ChatGPT لنص معين. يُقال إن تقنية وضع العلامات المائية هذه شبه مثالية، حيث تكشف وثائق داخلية عن فعاليتها بنسبة 99.9% عند إنتاج ChatGPT لمحتوى كثيف.
مع ذلك، أُثيرت بعض التساؤلات حول هذه الأداة. ومن أبرزها أنها قد تكون غير مناسبة لمن لا يجيدون الإنجليزية كلغة أم. ويخشى البعض من أن العلامة المائية قد لا تكون فعّالة كما ينبغي، أو قد تُصنّف أعمالًا أخرى لمؤلفين لا يتقنون الإنجليزية على أنها مسروقة. كما أعرب النقاد عن قلقهم من إمكانية مسح العلامة المائية أو التلاعب بها عن طريق ترجمتها أو إدراج وحذف الرموز التعبيرية.
هناك مشكلة أخرى تتعلق بمن يُسمح له باستخدام أداة الكشف. قد يُقلل تقييد الوصول من إمكانية تطبيق طريقة وضع العلامات المائية؛ إلا أن السماح بالوصول الحر قد يُفقد الطريقة فعاليتها.
شركات التكنولوجيا العملاقة الأخرى تطور حلولاً مماثلة
على الرغم من أن OpenAI لم تُطبّق بعدُ أداة مكافحة الغش في النصوص، إلا أنها بدأت بالفعل بإضافة علامات مائية على مُخرجات الصوت والفيديو. وقد أولت الشركة هذه التنسيقات المتعددة الوسائط أولويةً نظرًا لأن عمليات التزييف العميق المُولّدة بالذكاء الاصطناعي تُشكّل مخاطر أعلى من المحتوى النصي.
تُطوّر شركات تقنية أخرى حلولاً مماثلة. على سبيل المثال، تُطوّر جوجل حلها الخاص للعلامات المائية المعروف باسم SynthID، والذي لا يزال في مرحلة تجريبية. مع ذلك، تُعطي OpenAI الأولوية للعلامات المائية الصوتية والمرئية على النصوص، نظرًا لتأثيراتها الأكثر خطورة، وقد تحدث خلال فترات حرجة مثل سنوات الانتخابات.
وتأتي هذه الأخبار في الوقت الذي عاد فيه إيلون ماسك إلى المحكمة لمقاضاة OpenAI، متهمًا الشركة ومؤسسيها، سام ألتمان وجريج بروكمان، بالانحراف عن الهدف الأصلي المتمثل في إنشاء الذكاء الاصطناعي لتحسين البشرية.
