OpenAI تؤجل إطلاق أداة كشف الذكاء الاصطناعي وسط مخاوف

أجلت OpenAI إطلاق الأداة المتوقعة بشدة المصممة للكشف عن النص الذي تم إنشاؤه بواسطة نموذج ChatGPT الخاص بها. وفقًا للتقارير، تم تأجيل الإطلاق بسبب مشاكل محتملة قد تؤثر على تجربة المستخدم والنظام البيئي.

ذكر صحيفة وول ستريت جورنال أن OpenAI كانت تستعد لإطلاق الأداة على مدار العام الماضي لكنها لم تفعل ذلك، وذلك بشكل رئيسي بسبب المخاطر والمشكلات المختلفة. ويبدو أن اختيار تأجيل إطلاق الأداة مرتبط أيضًا بإدخال المستخدم. وفي استطلاع أجرته OpenAI، وجدت أن ثلث مستخدمي ChatGPT المخلصين تقريبًا قد يثنيهم إدخال تقنية مكافحة الغش.

كيف تعمل أداة مكافحة الغش

وفقًا لمركز الديمقراطية والتكنولوجيا، يعتقد 59٪ من معلمي المدارس المتوسطة والثانوية أن الطلاب استخدموا الذكاء الاصطناعي في واجباتهم، وهو زيادة عن العام السابق.

تعمل أداة مكافحة الغش عن طريق تضمين علامة مائية في النص المكتوب بواسطة الذكاء الاصطناعي. على الرغم من أن هذه العلامة المائية غير مرئية للعين المجردة، فإن تقنية الكشف من OpenAI قادرة على التقاطها. توفر الأداة درجة تمثل الاحتمال بأن نصًا معينًا تم كتابته بواسطة ChatGPT. يُقال إن تقنية وضع العلامات المائية هذه مثالية تقريبًا، حيث تكشف المستندات الداخلية عن فعاليتها بنسبة 99.9٪ عندما ينتج ChatGPT الكثير من المحتوى.

ومع ذلك، تم طرح بعض المشاكل المتعلقة بالأداة. أحد المخاوف الرئيسية هو أنها قد تكون غير مواتية لأولئك الذين لا يتحدثون الإنجليزية كلغة أم. يقلق بعض الناس من أن وضع العلامات المائية قد لا يكون فعالاً كما ينبغي أو قد يحدد أعمالًا أخرى من المؤلفين ذوي المهارات الإنجليزية الضعيفة على أنها سرقة أدبية. بالإضافة إلى ذلك، أعرب النقاد عن قلقهم من أن العلامة المائية يمكن محوها أو التلاعب بها عن طريق ترجمتها أو عن طريق إدراج وحذف الرموز التعبيرية.

مشكلة أخرى هي من يجب أن يُسمح له باستخدام أداة الكشف. قد يؤدي تقييد الوصول إلى تقليل قابلية تطبيق طريقة وضع العلامات المائية؛ ومع ذلك، فإن السماح بالوصول المجاني قد يجعل الطريقة غير فعالة. 

عمالقة التكنولوجيا الآخرون يطورون حلولاً مماثلة

على الرغم من أن OpenAI لم تطبق بعد أداة مكافحة الغش للنص، فقد بدأت الشركة بالفعل في تطبيق وضع العلامات المائية للمخرجات الصوتية والمرئية. تم اعتبار هذه التنسيقات المتعددة الوسائط من قبل الشركة كأولويات لأن عمق الذكاء الاصطناعي الذي تم إنشاؤه بواسطة الذكاء الاصطناعي يشكل مخاطر أعلى من المحتوى القائم على النص. 

الشركات التكنولوجية الأخرى تطور أيضًا حلولاً مماثلة. على سبيل المثال، جوجل تعمل أيضًا على تطوير حل وضع علامات مائية خاص بها يُعرف باسم SynthID، والذي لا يزال في المرحلة التجريبية. ومع ذلك، أعطت OpenAI الأولوية لوضع العلامات المائية الصوتية والمرئية على النص لأن آثارformer أكثر حدة وقد تحدث خلال فترات حاسمة مثل سنوات الانتخابات. 

تأتي هذه الأخبار بينما يعود إيلون ماسك إلى المحكمة لمقاضاة OpenAI، متهمًا الشركة ومؤسسيها، سام آلتمان وغريغ بروكمان، بالانحراف عن الهدف الأصلي المتمثل في إنشاء الذكاء الاصطناعي لتحسين البشرية.