باحث بارز في سلامة الذكاء الاصطناعي يستقيل من أنثروبيك مع تحذير غامض

أعلن mrinank Sharma، الباحث الرئيسي في مجال السلامة بشركة أنثروبيك، استقالته من الشركة هذا الأسبوع في منشور على منصة X. يبدو أن قرار Sharma مدفوع بمخاوفه بشأن الوضع الحالي للذكاء الاصطناعي والعالم.

قاد مريانك شارما فريق أبحاث الضمانات في أنثروبيك، وهي شركة رائدة في مجال الذكاء الاصطناعي يُعد نموذجها اللغوي الكبير (LLM)، كلود، منافساً قوياً لنموذج شات جي بي تي الخاص بشركة أوبن إيه آي. كان رحيل شارما مفاجئاً إلى حد كبير، نظراً لأن فريق أبحاث الضمانات قد أُعلن عنه رسمياً فقط في فبراير من العام الماضي. وقد ركّز الفريق بشكل أساسي على تحديد المخاطر المرتبطة بأنظمة الذكاء الاصطناعي التي نشرتها أنثروبيك، مثل كلود، وفهمها والمساعدة في التخفيف منها.

أثار هذا الانسحاب المفاجئ لأحد كبار باحثي السلامة في واحدة من أكبر شركات الذكاء الاصطناعي في الولايات المتحدة جدلاً واسعاً على وسائل التواصل الاجتماعي. ربما كان أبرز جزء في رسالة الاستقالة هو تحذير شارما الغامض بأن «العالم في خطر». وعزا هذا الخطر «ليس فقط إلى الذكاء الاصطناعي أو الأسلحة البيولوجية»، بل إلى «سلسلة كاملة من الأزمات المترابطة التي تتكشف في هذه اللحظة بالذات». وقد فسّر الكثيرون ذلك كتحذير بشأن المخاطر الوجودية الناتجة عن تقدم الذكاء الاصطناعي. ويأتي استقالة شارما في إطار اتجاه أكبر ومقلق يتسارع بسرعة، يتمثل في استقالة موظفين بارزين من شركات الذكاء الاصطناعي مؤخراً.

تفسير رسالة استقالة Sharma

بدأ mrinank Sharma رسالته بالتطرق بإيجاز إلى خلفيته وما يلهمه، وأبرز ذلك "الرغبة في اتخاذ قرارات صعبة والوقوف من أجل الخير". كما تحدث عن مساهماته في أنثروبيك، بما في ذلك تطوير ونشر دفاعات "لتقليل مخاطر الإرهاب البيولوجي بمساعدة الذكاء الاصطناعي"، وكتابة واحدة من أولى حالات سلامة الذكاء الاصطناعي. كان مشروعه الأخير "فهم كيفية قدرة مساعدي الذكاء الاصطناعي على جعلنا أقل إنسانية أو تشويه إنسانيتنا".

ومع ذلك، كان الجزء الذي أثار أكبر قدر من القلق هو الفقرة الثالثة. وعلى الرغم من أنه لم يتهم أنثروبيك بشكل مباشر بأي مخالفة أو يقول صراحةً إن الذكاء الاصطناعي سيقتلنا جميعاً، إلا أنه استخدم لغة فلسفية كثيرة لشرح استقالته. وذكر أن "يبدو أننا نصل إلى عتبة يجب أن تنمو فيها حكمتنا بنفس قدر قدرتنا على التأثير في العالم، وإلا سنواجه العواقب". وتبع ذلك قوله: "لقد رأيت مراراً مدى صعوبة جعل قيمنا تحكم أفعالنا حقاً". كما وصف العالم بأنه في خطر من سلسلة من الأزمات المترابطة، والتي وصفها في هوامشها بأنها "أزمة متعددة" (poly-crisis) مدعومة بـ "أزمة عليا" (meta-crisis).

تلمح هذه اللغة إلى أن رحيله عن Anthropic كان ناتجًا عن انحراف فلسفي أكثر منه عن أي خلاف داخلي في الشركة. ومن خلال وصفه للوضع الراهن بأنه "أزمة متعددة" تستند إلى "أزمة شاملة"، يبدو أن شارما يشير إلى مشكلة هيكلية أكبر تواجه المجتمع وتطوير الذكاء الاصطناعي على التوالي. فتقود التكنولوجيا وتيرة التقدم أسرع من الحكمة الجماعية، والنظم والقوى الحالية التي تدير هذا التطور وتؤثر فيه ليست مجهزة بشكل مناسب للتعامل مع ذلك في ظل الوضع الراهن للعالم.

الخلاصة الأوسع من رسالة Sharma

الاستنتاج الأوسع من رسالة استقالة شارما متعدد الأبعاد ووجودي. من ناحية، يبدو أنه يعتقد أن هناك مشكلة أساسية في كيفية تعامل شركات التكنولوجيا مع تسارع تطوير الذكاء الاصطناعي داخل نظام تنافسي. تخوض القوى العالمية سباق تسلح للتفوق على بعضها البعض في مجال الذكاء الاصطناعي والتقدم التكنولوجي الآخر، حيث من المتوقع أن يصل الإنفاق العالمي على التكنولوجيا إلى 5.6 تريليون دولار في عام 2026. هذا يعني أن شركات الذكاء الاصطناعي لا تبتكر وتبني المنتجات فحسب، بل هي أيضًا مكون حاسم في الصراع الجيوسياسي. بالإضافة إلى ذلك، تتحمل هذه الشركات مسؤولية ائتمانية لتحقيق أداء جيد للمساهمين، مما يخلق حافزًا للتفوق على منافسيها في التقدم التكنولوجي.

هذا يخلق بيئة يجب أن تتماشى فيها مبادئ وإجراءات السلامة أيضاً مع ضغوط السوق والمنافسة الوطنية وتوقعات المستثمرين. ومع ذلك، مع التوسع السريع لشركات الذكاء الاصطناعي وتطوير قدراتها، عليها تحديد وفهم وتخفيف المخاطر المصاحبة لذلك. يبدو أن المشكلة التي يتناولها Sharma هي أن النظام الحالي الذي تعمل فيه شركات الذكاء الاصطناعي يعطي الأولوية طبيعياً للنمو على اعتبارات السلامة والأخلاق. إن تداعيات هذه الديناميكية عميقة وجودياً وتشكل سبباً كبيراً للقلق. رجل مثل Sharma، الذي يبدو أنه يتمتع بنزاهة عالية، لم يستطع ببساطة الاستمرار في العمل ضمن هذا النظام دون التنازل عن قيمه، مما دفعه إلى الانسحاب منه تماماً.