سام ألتمان من OpenAI يدعو إلى إبطاء سباق الذكاء الاصطناعي بينما يستحوذ الفاعلون الدوليون على Anthropic للأسلحة البيولوجية
صورة بواسطة سولين فييسا على أونسلاب.
- أخبر سام ألتمان موظفي OpenAI هذا الأسبوع أن الشركة مستعدة لإبطاء تطوير الذكاء الاصطناعي المتقدم إذا فعل المنافسون الشيء نفسه.
- أبلغت Anthropic عن محاولة علماء مرتبطين بدول استخدام نموذج Claude لأبحاث قد تدعم تطوير الأسلحة البيولوجية.
- يناقش المشرعون في كاليفورنيا وواشنطن قواعد إلزامية بينما تواجه أكبر مختبرات الذكاء الاصطناعي تمردات داخلية تتعلق بالسلامة وإمكانية طرح أسهمها للاكتتاب العام (IPO).
أُبلغ موظفو OpenAI هذا الأسبوع بأن المختبر سيكون منفتحاً على إبطاء وتيرة عمله في أكثر مجالات الذكاء الاصطناعي تقدماً. وسّع ألتمان نفس الاقتراح إلى منافسي الذكاء الاصطناعي، بما في ذلك Anthropic، التي أقرت أيضاً بالمخاطر المرتبطة بتطوير الذكاء الاصطناعي في تقرير كشف أن العلماء المرتبطين بالمؤسسات الحكومية حاولوا استخدام نماذج كلود الخاصة بها لأبحاث الأسلحة البيولوجية.
قالت OpenAI إنها علقت بالفعل بعض عمليات التدريب الداخلية وخففت أجزاء من تطوير النموذج بسبب مخاوف تتعلق بالسلامة.
الوصول المتسلسل للإفصاحات يشعل النار حول الجدل الدائر حول ما إذا كانت الصناعة تتحرك بسرعة كبيرة قبل الطروحات العامة، تواصل كلتا الشركتين التلميح.
لماذا يريد ألتمان إبطاء تطوير الذكاء الاصطناعي؟
أبلغ سام ألتمان، الرئيس التنفيذي لـ OpenAI، في اجتماع على مستوى الشركة، الحاضرين بأن مختبر الذكاء الاصطناعي، بالإضافة إلى مختبرات أخرى متطوعة، يمكنه إبطاء وتيرة إصدارات النماذج الحدودية.
بسبب الطابع الطوعي لأي ترتيب من هذا القبيل، أقر ألتمان بأن كل شركة لن تكون على متن الخطة، وفقاً لمصادر استشهدت بها بلومبرغ.
يأتي هذا التشكك مع سابقة. قبل ثلاث سنوات، في مارس 2023، وقع إيلون ماسك وستيف وزنياك وأكثر من 1,000 شخص آخرين على رسالة مفتوحة لوقف عمل الذكاء الاصطناعي المتقدم لمدة ستة أشهر.
كما أفادت وسائل الإعلام في ذلك الوقت، لم تتبع المختبرات فعلياً مع وقف التنفيذ الذي اتفقوا عليه بشكل مشترك.
جاء نداء مخاطر الذكاء الاصطناعي أيضاً في منشور في 6 سبتمبر من قبل كبير علماء OpenAI، جاكوب باتشوكي، الذي طلب من شركات الذكاء الاصطناعي التنسيق "لإبطاء التطوير المستقبلي حسب الحاجة". أعرب باتشوكي عن أمله في أن تصبح الإبطاءات الطوعية "شائعة حتى يتم إنشاء معايير سلامة مشتركة".
في يوليو، قال ألتمان إنه أخبر مسؤولي البيت الأبيض بالحاجة إلى إبطاء تطوير الذكاء الاصطناعي. بالإضافة إلى ذلك، وقع ألتمان مع داريو أمودي، الرئيس التنفيذي لأنثروبيك، سابقاً على بيان من سطر واحد يعلن أن الذكاء الاصطناعي يمثل خطراً انقراضياً على مستوى المجتمع.
هل يمكن استخدام نماذج الذكاء الاصطناعي لبناء أسلحة بيولوجية؟
تقدمت نماذج الذكاء الاصطناعي إلى مرحلة قد تكون قادرة على دعم أبحاث الأسلحة البيولوجية. هذا الأسبوع فقط، أعلنت OpenAI أن نماذجها حلّت مشكلة نافييه-ستوكس الرياضية، حتى لو جاء ذلك تحت شروط مثيرة للجدل.
قدمت أنثروبيك وقوداً جديداً لهذا الجدل عندما أفعل استخبارات التهديدات المكون من 154 صفحة، الذي تم إصداره في 10 سبتمبر، ووضح خمس حالات حاول فيها الباحثون استخدام قدرات كلود لدعم أعمال الأسلحة البيولوجية.
قالت أنثروبيك إن المحاولات من "مناطق غير مدعومة" حاولت تجاوز قيود الموقع وإخفاء غرض عملهم. قالت المختبر إنها ألغت الحسابات، لكنها لم تذكر أي دول أو مؤسسات.
هل تجاوزت مخاطر الذكاء الاصطناعي الفوائد الآن؟
وصلت التقارير وسط موجة من الذعر العام من داخل المختبرات. في 8 سبتمبر، استقال الباحث جاكوب كوكسون واتهم كل من OpenAI وAnthropic بـ "المراهن على حياتنا"، قائلاً إن الزملاء يعتقدون أن التكنولوجيا يمكن أن "تقتلنا جميعاً بحلول نهاية العقد" ويحذر من انقراض البشرية بحلول عام 2030.
جذب منشوره أكثر من 150 مليون مشاهدة. بعد يومين، في 10 سبتمبر، أثار موظفون سابقون من Anthropic وDeepMind التابعين لـ Google مخاوف مماثلة ودعوا إلى مزيد من الشفافية.
جمعت عريضة في أواخر يوليو لإنشاء آلية لإبطاء التطوير توقيعات من أكثر من 1,000 عامل عبر شركات الذكاء الاصطناعي الكبرى.
تدفع OpenAI الآن الكونغرس نحو قواعد سلامة إلزامية قائمة على القدرة تغطي الاختبار والتقييمات المستقلة وأمن السيبرانية وإبلاغ الحوادث. "إن احتمال تسريع تطوير الذكاء الاصطناعي يتطلب أكثر من الالتزامات الطوعية"، كتب كبير مسؤولي الشؤون العالمية كريس ليان.
كاليغورنيا تحركت أولاً: وقع الحاكم غافين نيوسوم على SB 813 وAB 1405 يوم الأربعاء، مع مشروع قانون مرافق، AB 1864، يهدف إلى الحماية من التهديدات البيولوجية التي يمكّنها الذكاء الاصطناعي.
في واشنطن، قدم السناتور بيرني ساندرز تشريعاً لتعليق الذكاء الاصطناعي المتقدم وحظر الذكاء الاصطناعي الفائق، مخبراً بي بي سي أن تجاهل تحذيرات العلماء سيجعل الشخص "أحمق".
دافع الرئيس دونالد ترامب، قائلاً يوم الخميس إنه قلق من أن "إذا لم نفوز في الذكاء الاصطناعي، فسنوضع في وضع سيء جداً".
أذكى العقول في عالم العملات الرقمية يقرأون بالفعل نشرتنا الإخبارية. هل تريد الانضمام؟ انضم إليهم.
الأسئلة الشائعة
ماذا قال سام ألتمان لموظفي OpenAI؟
في اجتماع عام للشركة هذا الأسبوع، قال ألتمان إن OpenAI قد تبطئ وتيرة تطوير أحدث تقنيات الذكاء الاصطناعي، ربما بالتنسيق مع مختبرات رائدة أخرى، رغم أنه أشار إلى أن بعض الشركات قد لا توافق على ذلك.
ماذا كشف تقرير التهديدات الصادر عن Anthropic بشأن الأسلحة البيولوجية؟
وصف تقرير Anthropic المكون من 154 صفحة خمس حالات استخدم فيها باحثون، بعضهم مرتبط بمؤسسات حكومية، نموذج Claude بطرق قد تدعم تطوير الأسلحة البيولوجية، بما في ذلك دراسة حول فيروس شيكونغونيا مرتبطة بمعهد أبحاث عسكري؛ وقد قامت الشركة بحظر الحسابات المعنية.
كيف يستجيب المشرعون لمخاوف السلامة المتعلقة بالذكاء الاصطناعي؟
وقّع حاكم كاليفورنيا غافين نيوسوم يوم الأربعاء عدة قوانين للإشراف على الذكاء الاصطناعي، بما في ذلك قانون يستهدف التهديدات البيولوجية المدعومة بالذكاء الاصطناعي، بينما قدّم السيناتور الأمريكي بيرني ساندرز تشريعًا لإيقاف وتيرة تطوير الذكاء الاصطناعي المتقدم وحظر الذكاء الاصطناعي الفائق.
إخلاء مسؤولية. المعلومات المقدمة ليست نصيحة تداول. Cryptopolitan.com لا تتحمل أي مسؤولية عن أي استثمارات تُجرى بناءً على المعلومات الواردة في هذه الصفحة. نوصي بشدة بإجراء بحث مستقل و/أو الاستعانة بمستشار مؤهل قبل اتخاذ أي قرارات استثمارية.
هانا كولي مور
هانا كاتبة ومحرّرة تمتلك خبرة تمتد لأكثر من عقد في كتابة المدونات وتغطية الفعاليات في مجال العملات الرقمية. في موقع كريبتوبوليتان، تساهم هانا في صفحة الأخبار من خلال تغطية وتحليل أحدث التطورات في مجالات التمويل اللامركزي (DeFi)، والأصول الواقعية (RWA)، وتنظيم العملات الرقمية، والذكاء الاصطناعي، وتقنيات الحدود الجديدة. تخرجت هانا من جامعة أركاديا بدرجة البكالوريوس في إدارة الأعمال.
