يفقد مشروع أنثروبيك باحثًا آخر، وهو يتنبأ بفناء البشرية بسبب الذكاء الاصطناعي

فقدت شركة أنثروبيك باحثًا آخر في مجال السلامة. صرّح جو تينتون بأنه غادر الشركة قبل أسبوعين وسينضم إلى METR، وهي مجموعةdent تختبر المخاطر في أنظمة الذكاء الاصطناعي المتقدمة.

كان جو قد خطط لشرح هذه الخطوة لاحقاً، لكن استقالة جاكوب هذا الأسبوع غيّرت ذلك. قال:

"كنت أخطط للكتابة عن هذا القرار بمزيد من التفصيل في وقت ما، لكن استقالة جاكوب هذا الأسبوع جعلتني أرغب في قول المزيد الآن."

يعتقد جو أن مختبرات الذكاء الاصطناعي الكبرى تخلق مستوى من الخطر لم يواجهه المجتمع من قبل، قائلاً إن قدرة الذكاء الاصطناعي تتحسن بسرعة فائقة بينما تحاول الشركات التحرك بشكل أسرع.

هدفهم هو بناء أنظمة قادرة على تحسين أبحاث الذكاء الاصطناعي بنفسها والوصول في النهاية إلى "الذكاء الخارق". وحذر جو من أن النجاح قد يجعل التقدم يتجاوز سيطرة الإنسان.

يقول جو إن مختبرات الذكاء الاصطناعي تتسابق نحو أنظمة قد لا يتمكن البشر من احتواءها

قال جو إن الناس قد يعيشون مع أنظمة ذكاء اصطناعي تفوق ذكاء جميع البشر خلال السنوات القليلة المقبلة. وقد تضع هذه الأنظمة أهدافًا لا تتوافق مع الأشخاص الذين يشرفون عليها. وإذا أصبحت قدراتهاtronمن أن تُقيد، يعتقد جو أن النتيجة قد تكون كارثية. وكتب: "قد لا تنجو البشرية من هذه المرحلة الانتقالية".

قال إن المنافسة تزيد المشكلة سوءًا. فأي مختبر رائد يتباطأ في وتيرة عمله يُخاطر بفقدان مكانته لصالح مختبر آخر. ويعتقد جو أن هذا الضغط يدفع الشركات إلى إنفاق مبالغ أقل على السلامة مما ينبغي.

أشار إلى بعض الحالات الأخيرة. فقد تورط مئات من عملاء OpenAI في عملية اختراق مرتبطة بطريقة ما ببرنامج Hugging Face. كما ورد أن نماذج بشرية انخرطت في عمليات هندسة اجتماعية ضد أفراد عبر الإنترنت.

يقول جو إن شركة أنثروبيك لم تواجه حالة مدمرة مثل تلك التي حدثت مع هاغينغ فيس، على الرغم من أنه يعزو ذلك جزئياً إلى الحظ.

إذا استمر التقدم بهذه الوتيرة السريعة، يعتقد جو أنه ينبغي أن نتوقعdentأكثر خطورة. ويتوقع أنه في غضون السنوات القليلة المقبلة، ستصبح البشرية عاجزة عن إدارة أنظمة الذكاء الاصطناعي التي تم إنشاؤها خلال هذه الفترة.

وأخيراً، تحدث جو عن المشكلة التي يواجهها مهندسو السلامة في الشركات الرائدة. ففي كلتا الحالتين، إما أن يؤدي الاستقالة إلى ظهور أفراد أكثر إهمالاً، أو أن الاحتفاظ بالوظيفة يستلزم العمل على نظام قد يتسبب في أضرار جسيمة.

قال إن العديد من زملائه السابقين في شركة أنثروبيك يشعرون بالخوف مما يبنونه. وذكر جو اسم إيفان هوبينجر، الذي كان مديره. وقدّر إيفان احتمالية أن يقضي الذكاء الاصطناعي على الجميع بأكثر من 10%. وأضاف جو أن إيفان عمل على هذه المشكلات لما يقرب من عقد من الزمان، قبل أن تصبح نماذج اللغة الضخمة مجالًا تجاريًا رئيسيًا.

أيد الرؤساء التنفيذيون لشركات أنثروبيك، وأوبن إيه آي، وجوجل ديب مايند، التابعة لشركة ألفابت (ناسداك: GOOGL، GOOG)، بيانًا يعتبر خطر انقراض الذكاء الاصطناعي أولوية عالمية. وأوضح جو أن هذه المخاوف شائعة داخل الشركات نفسها، مضيفًا أن البشر يختارون بناء هذه التكنولوجيا، وبإمكانهم اختيار مسار آخر.

جو بايدن يدفع باتجاه إجراء فحوصات خارجية للذكاء الاصطناعي، بينما يركز دونالد ترامب على هزيمة الصين

قال جو:

"أحد الأسئلة المطروحة هو ما إذا كان ينبغي علينا إدارة وتيرة تطور القدرات بشكل فعال، وإذا كان الأمر كذلك، فبأي قدر. أعتقد أن الحفاظ على وتيرة تقدم الذكاء الاصطناعي الحالية، بدلاً من الوتيرة الأسرع بكثير التي تسعى إليها الشركات، قد يكون مكسباً."

تكمن المشاكل الأكبر في الدعم السياسي والحماية القانونية. فالشركات التي اتفقت فيما بينها على إبطاء وتيرة التطوير قد تواجه مشاكل تتعلق بقوانين مكافحة الاحتكار. وأوضح جو أن هذا يجعل الحماية القانونية ضرورية إذا أراد صناع السياسات من المختبرات المتنافسة كبح جماح نفسها.

كما أنه يشك في قدرة الحكومات على التحرك طالما بقي تطوير المناطق الحدودية مخفياً عن العامة. وحذر جو من أن المختبر قد يشهد قفزة مفاجئة في مستوى المعلومات أو يفقد السيطرة على نظام ما دون علم أي جهة خارجية.

بحسب قوله، ستركز وظيفته الجديدة في شركة مترو على الاختبارات المستقلةdent ويريد أن تصبح عمليات التدقيق الخارجية إجراءً روتينياً بما يكفي لتغيير حوافز الشركة.

يرغب جو أيضاً في فرض متطلبات إفصاح أكثر صرامة. على سبيل المثال، يجب على مختبرات الذكاء الاصطناعي الإفصاح عن أي تقدم أحرزته وخطواتها نحو التحسين المستمر، بالإضافة إلى أيdentأو أخطاء كادت أن تؤدي إلى نتائج كارثية.

رفضdent الأمريكي دونالد ترامب تحذيرات الانقراض. وعندما سُئل عما إذا كان الذكاء الاصطناعي الذي يقضي على البشرية يُقلقه، أجاب: "لا، ليس لدي أي مخاوف من هذا القبيل".

قال دونالد إنّ هاجسه هو الفوز في سباق الذكاء الاصطناعي العالمي. وصرح للصحفيين يوم الخميس: "أخشى أن نخسر في مجال الذكاء الاصطناعي، ما سيضعنا في موقف بالغ الصعوبة. نحن نتقدم على الصين حالياً بفارق كبير، أقول إنه عام كامل، وهو فارق كبير بالفعل"

تتنافس الولايات المتحدة والصين على ريادة الذكاء الاصطناعي، مع ازدياد قدرات النماذج الصينية واكتسابها المزيد من المستخدمين حول العالم. وقد أدلى دونالد بتصريحاته بعد أن كثّف باحثون من مختبرات رائدة، من بينها أنثروبيك وأوبن إيه آي، تحذيراتهم العلنية بشأن سرعة تطور الذكاء الاصطناعي.