- يعمل ChatGPT إحصائيًا، وليس بفهم اللغة، مما يجعل دقته معتمدة على بيانات التدريب.
- التغذية الراجعة البشرية ضرورية لتحسين استجابات ChatGPT ومنع تكرار المحتوى الضار حرفيًا.
- رغم التقدم في الذكاء الاصطناعي، لا يزال ChatGPT يعتمد اعتمادًا كبيرًا على المدخلات البشرية، من البرمجة الأولية إلى التقييم والتحسين المستمر.
في صميم العديد من التفاعلات عبر الإنترنت اليوم، يقف ChatGPT، وهو نموذج لغوي طورته شركة OpenAI، ويعمل على التنبؤ بتسلسلات النص بناءً على كميات هائلة من بيانات التدريب التي تم جمعها من الإنترنت. ومع ذلك، وعلى عكس ما قد يظن البعض، فإن ChatGPT لا "يفهم" اللغة كما يفعل البشر. فهو يعمل إحصائياً، من خلال تحليل أنماط الكلمات من مجموعات بيانات ضخمة. على سبيل المثال، إذا كانت عبارة متكررة بشكل متكرر في بيانات التدريب الخاصة به، مثل "الدببة روبوتات سرية"، فقد يقبل النموذج ذلك على أنه أكثر احتمالاً للصحة.
هذا النهج يطرح سؤالاً جوهرياً: كيف يميز ChatGPT بين المعلومات الدقيقة والأخبار الكاذبة في عصر ينتشر فيه التضليل وتتنوع فيه الآراء؟
الدور الحاسم للتغذية الراجعة
يعتمد ChatGPT على آليات التغذية الراجعة لتحسين استجاباته. يقوم المستخدمون والمطورون والفرق المتعاونة بتقييم مخرجات النموذج، مما يساهم في تشكيله ليتوافق مع ما يُعتبر دقيقاً أو مناسباً. لا توجه هذه التقييمات النموذج نحو الإجابة الصحيحة فحسب، بل تمنعه أيضاً من تكرار المحتوى الضار.
سلط تقرير حديث لمجلة تايم الضوء على ظروف عمل بعض هؤلاء المقيّمين البشريين، وكشف عن جانب قاتم من تطوير الذكاء الاصطناعي. أُفيد بأن عمالاً في كينيا كانوا يفحصون ويصنفون المحتوى المحتمل مشكلته مقابل 2 دولار فقط في الساعة، مما يعرّضهم مراراً وتكراراً لمحتوى مُربك ومزعج.
يوضح هذا جانباً مهماً من ChatGPT والنماذج المماثلة: فهي تعتمد اعتماداً كبيراً على الحكم البشري لتحديد ما يشكل إجابة "جيدة" أو "سيئة"، والأهم من ذلك، ما هو المحتوى السام.
قيود ChatGPT
رغم أن قدرات ChatGPT قد تُبهر، إلا أنها ليست خالية من العيوب. من أبرز ميولها هو ما يُعرف بـ "الهلوسة" أحياناً، أي تقديم معلومات غير دقيقة بثقة. يتجلى هذا بوضوح خاصة عندما يُطلب من النموذج التحدث عن مواضيع لم يتم تدريبه عليها بدقة.
على سبيل المثال، بينما يمكن لـ ChatGPT تقديم ملخص معقول لأعمال راسخة مثل "سيد الخواتم" لج. ر. ر. تولكين، فإن استرجاعه لعناوين أقل شهرة قليلاً، مثل "قرصنة بنزانس" لغيلبرت وسوليفان أو "اليد اليسرى للظلام" لأورسولا ك. لو غوين، قد يميل نحو nonsensical (غير منطقي). هذا يبرز أن النموذج يحتاج إلى بيانات خام، وتغذية راجعة، وتحسين مستمر.
تفتقر هذه النماذج إلى الفهم الحقيقي. فهي لا تستطيع التمييز بين دقة تقرير إخباري، أو تقييم الحجج المعقدة، أو حتى ضمان الاتساق مع مصدر راسخ مثل الموسوعات. وبدلاً من ذلك، تعتمد على البشر لهذه التقييمات، وإعادة صياغة التعبيرات البشرية وتكرارها، والسعي للحصول على مزيد من التغذية الراجعة البشرية حول مخرجاتها.
اعتماد أنظمة الذكاء الاصطناعي
مع تقدم التكنولوجيا وتصبح نماذج الذكاء الاصطناعي مثل ChatGPT أكثر تعقيداً، من الضروري إدراك اعتمادها الجوهري على المدخلات البشرية. توجد شبكة بشرية ضخمة تدعم هذه الأنظمة، سواء كان ذلك في البرمجة الأولية، أو التغذية الراجعة المستمرة، أو تقييم المحتوى.
إذا تغيرت الآراء العامة بشأن مسألة ما، أو تم إجراء اكتشافات علمية جديدة، فإن هذه النماذج تتطلب إعادة تدريب مكثفة للتكيف. فهي في جوهرها انعكاس للمعرفة البشرية الجماعية والعمل البشري.
بعيداً عن كونها عمالقة ذاتيين التشغيل كما يظن البعض، ترتبط النماذج اللغوية الكبيرة مثل ChatGPT ارتباطاً وثيقاً بالتفاعل البشري. كل استجابة دقيقة يقدمها مبنية على الأسس التي وضعها عدد لا يحصى من الأشخاص — من أولئك الذين ينشئون بيانات التدريب إلى أولئك الذين يحسنون إجابات النموذج.
بينما يتفاعل المستخدمون مع ChatGPT ونظرائه، من الضروري إدراك الجهود البشرية العديدة الكامنة وراء كل تفاعل، مما يؤكد أنه حتى في عصر الذكاء الاصطناعي، يظل المدخل البشري لا يقدر بثمن.
أذكى العقول في عالم العملات الرقمية يقرأون بالفعل نشرتنا الإخبارية. هل تريد الانضمام؟ انضم إليهم.
إديتا باتريك
إديتا محللة مالية متنوعة تمتلك فهماً عميقاً لمجالات البلوك تشين. وعلى الرغم من أن التكنولوجيا تأسرها، فإنها تجد تقاطع التكنولوجيا والتمويل مذهلاً. كما يساعدها اهتمامها الخاص بالمحافظ الرقمية وتقنية البلوك تشين جمهورها.
