الموظفون يدعون أن OpenAI وGoogle DeepMind تخفيان مخاطر الذكاء الاصطناعي 

اتهم عدة موظفين حاليين وسابقين في OpenAI وGoogle DeepMind شركاتهم بإخفاء مخاطر الذكاء الاصطناعي التي قد تؤدي محتملاً إلى انقراض البشرية. وفي رسالة مفتوحة، زعم العمال أن شركات الذكاء الاصطناعي تضع الربح في المقام الأول بينما تتجنب "الإشراف [الحكومي] الفعال".

اقرأ أيضًا: OpenAI تُحضّر لخليفة GPT-4 وسط مخاوف تتعلق بالسلامة

وقّع على الرسالة المفتوحة 11 موظفاً سابقاً في شركة OpenAI، واثنان من Google DeepMind، وأيدها "أبو الذكاء الاصطناعي" جيفري هينتون، الذي عمل سابقاً في جوجل. وذكرت الرسالة أن دوافع الربح والثغرات التنظيمية تسمح للشركات بإخفاء التهديدات التي تشكلها تقنيات الذكاء الاصطناعي المتقدمة.

قد يؤدي الذكاء الاصطناعي إلى 'انقراض البشرية'

ووفقاً للرسالة، لم تشارك شركات الذكاء الاصطناعي مثل OpenAI وGoogle DeepMind، مطور Gemini، معلومات حول التدابير الوقائية غير الكافية ومستويات المخاطر في أنظمتها بشكل علني لأنها غير مطالبة بذلك.

بدون إشراف تنظيمي، قد تتسبم برامج الذكاء الاصطناعي في أضرار جسيمة للبشر. حذر الموظفون قائلاً:

"تتراوح هذه المخاطر من مزيد من ترسيخ عدم المساواة القائمة... إلى فقدان السيطرة على أنظمة الذكاء الاصطناعي المستقلة، مما قد يؤدي إلى انقراض البشرية."

وكما أشار الموقعون على الرسالة، فقد اعترفت شركات الذكاء الاصطناعي نفسها بهذه المخاطر. في مايو 2023، وقع CEOs من OpenAI وAnthropic وGoogle DeepMind رسالة مفتوحة بشكل مشترك من قبل مركز سلامة الذكاء الاصطناعي. كانت الرسالة تنص ببساطة على: "يجب أن يكون التخفيف من خطر الانقراض الناجم عن الذكاء الاصطناعي أولوية عالمية إلى جانب مخاطر أخرى على نطاق المجتمع، مثل الأوبئة والحرب النووية".

تعرضت شركات الذكاء الاصطناعي بشكل متزايد للمساءلة لوضع المنتجات المبتكرة والأرباح فوق السلامة والأمن. وأشارت شركة OpenAI، المطورة لـ ChatGPT، إلى المخاوف التي أثيرت في الرسالة، وقالت إنها تعمل على تطوير ذكاء اصطناعي آمن.

"نحن فخورون بسجلنا الحافل في تقديم أكثر أنظمة الذكاء الاصطناعي قدرة وأماناً، ونؤمن بمنهجيتنا العلمية في معالجة المخاطر»، قالت المتحدثة باسم OpenAI، ليندي هيلد لـ صحيفة نيويورك تايمز.

"نحن نوافق على أن النقاش الدقيق أمر بالغ الأهمية نظراً لأهمية هذه التكنولوجيا، وسنواصل الانخراط مع الحكومات والمجتمع المدني والمجتمعات الأخرى حول العالم."

خوف المبلغين عن المخالفات من الانتقام

قال الموظفون السابقون في OpenAI وGoogle إنهم يرغبون في شغل دور الإشراف بينما تعمل الجهات التنظيمية على وضع قوانين تلزم مطوري الذكاء الاصطناعي بالكشف علناً عن المزيد من المعلومات حول برامجهم.

ومع ذلك، فإن اتفاقيات السرية واحتمالية الانتقام من قبل أصحاب العمل تثني العمال عن التعبير علناً عن مخاوفهم. وفقاً للرسالة:

"يخشى بعضنا بشكل معقول أشكالاً مختلفة من الانتقام، نظراً لتاريخ مثل هذه الحالات عبر الصناعة. لسنا أول من يواجه أو يتحدث عن هذه القضايا."

يحمي القانون المبلغين عن المخالفات في الولايات المتحدة، لكن أولئك الذين يتحدثون علناً عن مخاطر الذكاء الاصطناعي غير مشمولين بالحماية لأن التكنولوجيا لا تخضع للتنظيم بعد.

اقرأ أيضًا: ChatGPT لا يزال ينشر معلومات كاذبة، وفقاً لهيئة مراقبة البيانات في الاتحاد الأوروبي

دعت الرسالة شركات الذكاء الاصطناعي إلى تسهيل الملاحظات المجهولة القابلة للتحقق، ودعم ثقافة النقد المفتوح، وعدم الانتقام من المبلغين عن المخالفات.

قال باحث الذكاء الاصطناعي، لانس ب. إليوت إن الشركات تتبنى نهج العصا والجزرة تجاه النقد. يتم مكافأة الموظفين الذين لا يتحدثون علناً عن المخاطر بترقيات وزيادات في الرواتب.

من ناحية أخرى، يفقد المبلغون عن المخالفات والنقاد خيارات الأسهم الخاصة بهم وقد يُجبرون على مغادرة الشركة ويتم إدراجهم بصمت في القائمة السوداء من قبل مجتمع قيادة الذكاء الاصطناعي.

تقرير من Cryptopolitan بقلم جيفري غوغو