سام ألتمان من منظمة OpenAI يدعو إلى كبح جماح سباق الذكاء الاصطناعي بينما تستغل جهات حكومية مشروع Anthropic لتطوير أسلحة بيولوجية
تصوير سولين فييسا على Unsplash.
- صرح سام ألتمان لموظفي OpenAI هذا الأسبوع بأن الشركة منفتحة على إبطاء تطوير الذكاء الاصطناعي الرائد إذا فعل المنافسون الشيء نفسه.
- أفادت منظمة أنثروبيك أن علماء مرتبطين بالدولة حاولوا استخدام كلود في أبحاث يمكن أن تدعم الأسلحة البيولوجية.
- يناقش المشرعون في كاليفورنيا وواشنطن القواعد الإلزامية في الوقت الذي تواجه فيه أكبر مختبرات الذكاء الاصطناعي ثورات داخلية تتعلق بالسلامة وإمكانية طرحها للاكتتاب العام.
أُبلغ موظفو OpenAI هذا الأسبوع بأن مختبر الذكاء الاصطناعي سيكون منفتحًا على إبطاء وتيرة عمله في أكثر مجالات الذكاء الاصطناعي تقدمًا. وقدّم سام ألتمان الاقتراح نفسه لمنافسي الذكاء الاصطناعي، بما في ذلك شركة أنثروبيك، التي أقرت أيضًا بالمخاطر المرتبطة بتطوير الذكاء الاصطناعي في تقرير كشف أن علماء مرتبطين بمؤسسات حكومية حاولوا استخدام نماذج كلود الخاصة بها في أبحاث الأسلحة البيولوجية.
أعلنت شركة OpenAI أنها أوقفت بالفعل بعض عمليات التدريب الداخلية وخففت أجزاء من تطوير النماذج بسبب مخاوف تتعلق بالسلامة.
وتستمر الشركتان في التلميح إلى أن وصول الإفصاحات المتتالية يغذي الجدل الدائر حول ما إذا كانت الصناعة تتحرك بسرعة كبيرة قبل الاكتتابات العامة
لماذا يريد ألتمان إبطاء تطوير الذكاء الاصطناعي؟
أبلغ سام ألتمان، الرئيس التنفيذي لشركة OpenAI، الحاضرين في اجتماع على مستوى الشركة، أن مختبر الذكاء الاصطناعي، إلى جانب المختبرات الأخرى التي وافقت على ذلك، يمكنه إبطاء وتيرة إصدار النماذج الرائدة.
ونظراً للطبيعة الطوعية لأي ترتيب من هذا القبيل، أقر ألتمان بأنه لن توافق كل شركة على الخطة، وفقاً لمصادر نقلتها بلومبرج.
يأتي هذا التشكيكdentبسابقة. فقبل ثلاث سنوات، في مارس 2023، وقّع إيلون ماسك وستيف وزنياك وأكثر من 1000 شخص آخر رسالة مفتوحة لوقف العمل على الذكاء الاصطناعي المتقدم لمدة ستة أشهر.
وكما ذكرت وسائل الإعلام في ذلك الوقت، فإن المختبرات لم تلتزم فعلياً بوقف العمل الذي اتفقت عليه بشكل مشترك.
كما وردت دعوة بشأن مخاطر الذكاء الاصطناعي في منشور بتاريخ 6 سبتمبر/أيلول من قبل كبير علماء OpenAI، جاكوب باتشوكي، الذي طلب من شركات الذكاء الاصطناعي التنسيق "لإبطاء التطوير المستقبلي حسب الحاجة". وأعرب باتشوكي عن أمله في أن تصبح عمليات الإبطاء الطوعية "أمراً شائعاً إلى حين وضع معايير أمان مشتركة"
في يوليو/تموز، صرّح ألتمان بأنه أبلغ مسؤولي البيت الأبيض بضرورة الحدّ من تطوير الذكاء الاصطناعي. وكان ألتمان قد وقّع سابقًا، إلى جانب داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، على بيان مقتضب يُعلن فيه أن الذكاء الاصطناعي يُشكّل خطرًا على المجتمع بأسره.
هل يمكن استخدام نماذج الذكاء الاصطناعي لبناء أسلحة بيولوجية؟
لقد تطورت نماذج الذكاء الاصطناعي إلى مرحلة قد تكون قادرة فيها على دعم أبحاث الأسلحة البيولوجية. وفي هذا الأسبوع فقط، أعلنت شركة OpenAI أن نماذجها قد حلت مسألة نافيير-ستوكس الرياضية، حتى وإن كان ذلك بشروط مثيرة للجدل.
قدمت شركة أنثروبيك مادة جديدة لهذا النقاش عندما قام تقرير معلومات التهديدات الصادر عن المختبر والمؤلف من 154 صفحة، والذي صدر في 10 سبتمبر، بتفصيل خمس حالات لمحاولات الباحثين استخدام قدرات كلود لدعم عملهم في مجال الأسلحة البيولوجية.
أفادت منظمة أنثروبيك بأن المحاولات التي جرت من "مناطق غير مدعومة" سعت إلى التحايل على القيود الجغرافية وإخفاء الغرض من عملها. وأضافت المنظمة أنها أغلقت الحسابات، لكنها لم تُسمِّ أي دول أو مؤسسات.
هل تجاوزت مخاطر الذكاء الاصطناعي فوائده الآن؟
جاءت هذه التقارير وسط موجة من القلق العام من داخل المختبرات. في 8 سبتمبر، استقال الباحث جاكوب كوكسون واتهم كلاً من OpenAI وAnthropic بـ"المقامرة بحياتنا"، قائلاً إن زملاءه يعتقدون أن هذه التقنية قد "تقتلنا جميعاً بحلول نهاية العقد" محذراً من انقراض البشرية بحلول عام 2030.
حصد منشوره أكثر من 150 مليون مشاهدة. وبعد يومين، في 10 سبتمبر، أعرب موظفون سابقون في شركتي أنثروبيك وديب مايند التابعة لشركة جوجل عن مخاوف مماثلة، وطالبوا بمزيد من الشفافية.
جمعت عريضة في أواخر يوليو لإنشاء آلية لإبطاء عملية التطوير توقيعات من أكثر من 1000 عامل في شركات الذكاء الاصطناعي الكبرى.
تضغط منظمة OpenAI حاليًا على الكونغرس لإصدار قواعد سلامة إلزامية قائمة على القدرات، تشمل الاختبارات والتقييماتdent والأمن السيبراني والإبلاغdent . وكتب كريس ليهان، كبير مسؤولي الشؤون العالمية: "إن احتمالية تطوير الذكاء الاصطناعي المتسارع تتطلب أكثر من مجرد التزامات طوعية".
كانت كاليفورنيا أول من تحرك: وقع الحاكم جافين نيوسوم على مشروع القانون SB 813 و AB 1405 يوم الأربعاء، مع مشروع قانون مصاحب، AB 1864، يهدف إلى الحماية من التهديدات البيولوجية التي تدعمها تقنيات الذكاء الاصطناعي.
في واشنطن، قدم السيناتور بيرني ساندرز تشريعاً لوقف تطوير الذكاء الاصطناعي المتقدم وحظر الذكاء الاصطناعي الخارق، مصرحاً لبي بي سي بأن تجاهل تحذيرات العلماء سيجعل المرء "أحمق".
ردdent دونالد ترامب يوم الخميس قائلاً إنه يخشى أنه "إذا لم ننتصر في مجال الذكاء الاصطناعي، فسنجد أنفسنا في موقف سيئ للغاية"
أذكى العقول في عالم العملات الرقمية يتابعون نشرتنا الإخبارية بالفعل. هل ترغب بالانضمام إليهم؟ انضم إليهم.
الأسئلة الشائعة
ماذا قال سام ألتمان لموظفي OpenAI؟
قال ألتمان في اجتماع على مستوى الشركة هذا الأسبوع إن OpenAI قد تبطئ وتيرة تطوير الذكاء الاصطناعي المتطور، ربما بالتنسيق مع مختبرات رائدة أخرى، على الرغم من أنه أشار إلى أن بعض الشركات قد لا توافق على ذلك.
ماذا وجد تقرير التهديدات الصادر عن منظمة أنثروبيك بشأن الأسلحة البيولوجية؟
وصف تقرير شركة أنثروبيك المكون من 154 صفحة خمس حالات استخدم فيها باحثون، بعضهم مرتبط بمؤسسات حكومية، كلود بطرق يمكن أن تدعم تطوير الأسلحة البيولوجية، بما في ذلك دراسة عن حمى الشيكونغونيا مرتبطة بمعهد أبحاث عسكرية؛ وقامت الشركة بحظر الحسابات المعنية.
كيف يستجيب المشرعون لمخاوف السلامة المتعلقة بالذكاء الاصطناعي؟
وقع حاكم ولاية كاليفورنيا جافين نيوسوم يوم الأربعاء على عدة مشاريع قوانين تتعلق بالرقابة على الذكاء الاصطناعي، بما في ذلك مشروع قانون يستهدف التهديدات البيولوجية التي يمكّنها الذكاء الاصطناعي، بينما قدم السيناتور الأمريكي بيرني ساندرز تشريعًا لوقف الذكاء الاصطناعي المتقدم وحظر الذكاء الاصطناعي الفائق.
إخلاء مسؤولية: المعلومات الواردة هنا ليست نصيحة استثمارية. Cryptopolitanموقع أي مسؤولية عن أي استثمارات تتم بناءً على المعلومات الواردة في هذه الصفحة. ننصحtronبإجراء بحث مستقلdent /أو استشارة مختص مؤهل قبل اتخاذ أي قرارات استثمارية.
هانا كوليمور
هانا كاتبة ومحررة تتمتع بخبرة تقارب عشر سنوات في كتابة المدونات وتغطية الأحداث في مجال العملات الرقمية. في Cryptopolitan، تُساهم هانا في صفحة الأخبار، حيث تُغطي وتُحلل آخر التطورات في DeFi، والأصول المُدارة بالمخاطر (RWA)، وتنظيم العملات الرقمية، والذكاء الاصطناعي، وقطاعات التكنولوجيا الرائدة. تخرجت هانا من جامعة أركاديا بشهادة في إدارة الأعمال.
