رئيس الذكاء الاصطناعي في مايكروسوفت يحذر من أن الذكاء الاصطناعي الواعي قد يكون خطيرًا

حذر رئيس الذكاء الاصطناعي في مايكروسوفت، مصطفى سليمان، من أن فكرة وعي الذكاء الاصطناعي خطيرة، مضيفًا أنها يمكن أن تضر بسهولة بالأشخاص ضعيفي الصحة النفسية. أشار إلى أن الاعتبار الأخلاقي للذكاء الاصطناعي المتقدم خلق مشاكل تتعلق بالاعتماد قد تفاضل الهلوسات.

سليمان جادل أن معاملة الذكاء الاصطناعي كنظام واعٍ قد تقدم أبعادًا جديدة للاستقطاب وتتعقد النضالات من أجل الحقوق القائمة، مما يخلق فئة جديدة من الخطأ للمجتمع. زعم رئيس الذكاء الاصطناعي في مايكروسوفت أن الناس قد يبدأون في الدفع من أجل حماية قانونية للذكاء الاصطناعي إذا اعتقدوا أن الذكاء الاصطناعي يمكن أن يعاني أو لديه حق في عدم إيقافه تعسفيًا. 

يقلق سليمان من أن الذهان الاصطناعي قد يؤدي الناس إلى الدعوة بقوة لحقوق الذكاء الاصطناعي، أو رفاهية النماذج، أو حتى المواطنة الاصطناعية. أكد أن هذه الفكرة ستكون انعطافة خطيرة في تقدم أنظمة الذكاء الاصطناعي وتستحق انتباهاً فورياً. قال رئيس الذكاء الاصطناعي في مايكروسوفت إن الذكاء الاصطناعي يجب بناؤه للناس، وليس ليكون أشخاصًا رقميين. 

سليمان يقول إن الذكاء الاصطناعي الواعي ظاهريًا حتمي لكنه غير مرحب به 

يعتقد سليمان أن بناء ذكاء اصطناعي يبدو واعيًا ممكنًا في سياق تطوير الذكاء الاصطناعي الحالي. يعتقد أن الذكاء الاصطناعي الواعي ظاهريًا حتمي، لكنه غير مرحب به. وفقًا لسليمان، كل شيء يعتمد على مدى سرعة تقبل المجتمع لهذه التقنيات الجديدة. بدلاً من ذلك، قال إن الناس يحتاجون إلى أنظمة ذكاء اصطناعي تعمل كرفقاء مفيدة دون الوقوع ضحية لأوهامها. 

جادل رئيس الذكاء الاصطناعي في مايكروسوفت بأن ردود الفعل العاطفية تجاه الذكاء الاصطناعي كانت مجرد قمة الجبل فيما هو آت. زعم سليمان أن الأمر يتعلق ببناء نوع الذكاء الاصطناعي الصحيح، وليس وعي الذكاء الاصطناعي. أضاف التنفيذي أن وضع حدود واضحة هو حجة تتعلق بالسلامة، وليس الدلالات. 

“يجب أن نكون حذرين للغاية هنا ونشجع النقاش العام الحقيقي ونبدأ في وضع معايير ومعايير واضحة. “

–مصطفى سليمان، الرئيس التنفيذي لـ Microsoft AI

أشار سليمان من مايكروسوفت إلى وجود مخاوف متزايدة حول الصحة النفسية، والذهان الاصطناعي، والارتباط. ذكر أن بعض الناس يعتقدون أن الذكاء الاصطناعي شخصية خيالية أو إله وقد يقع في حبه لدرجة التشتت التام. 

باحثو الذكاء الاصطناعي يقولون إن وعي الذكاء الاصطناعي مهم أخلاقيًا

باحثون من جامعات متعددة مؤخرًا المنشورة تقرير يزعم أن وعي الذكاء الاصطناعي قد يهم اجتماعيًا وأخلاقيًا وسياسيًا في العقود القليلة القادمة. جادلوا بأن بعض أنظمة الذكاء الاصطناعي قد تصبح قريبًا ذاتية أو واعية بما يكفي لتبرر الاعتبار الأخلاقي. قال الباحثون إن شركات الذكاء الاصطناعي يجب أن تقيم الوعي وتؤسس هياكل حوكمة أخلاقية. Cryptopolitan في يونيو أن DFS اقترحت لوائح جديدة للعملات المستقرة تهدف إلى مواءمتها مع قانون GENIUS ACT مع الحفاظ على ضوابطها الحالية. ويشمل ذلك التغطية الكاملة بالاحتياطيات والتدقيق المستقل. في وقت سابق أن الذهان الاصطناعي قد يكون مشكلة ضخمة في المستقبل لأن البشر كسالى ويتجاهلون حقيقة أن بعض أنظمة الذكاء الاصطناعي خاطئة واقعيًا. 

أكد الباحثون أيضًا أن كيفية تفكير البشر في وعي الذكاء الاصطناعي كانت مهمة. جادل سليمان بأن الذكاء الاصطناعي الذي يمكن أن يتصرف مثل البشر يمكن أن يجعل المشاكل العقلية أسوأ ويفاقم الانقسامات القائمة حول الحقوق والهوية. حذر من أن الناس قد يبدأون في الادعاء بأن الذكاء الاصطناعي يعاني ويحق له حقوق معينة لا يمكن دحضها بشكل صريح. يعتقد سليمان أن الناس قد يتحركون في النهاية للدفاع عن ذكاءهم الاصطناعي أو التظاهر نيابة عنهم. 

أشار الدكتور كيث ساكاتا، طبيب نفسي من جامعة كاليفورنيا، سان فرانسيسكو، إلى أن الذكاء الاصطناعي لا يهدف إلى إعطاء الناس حقائق قاسية، بل ما يريدون سماعه. أضاف أن الذكاء الاصطناعي يمكن أن يسبب الجمود وهبوطًا إذا كان موجودًا في الوقت الخطأ. يعتقد ساكاتا أنه على عكس الراديو والتلفزيون، الذكاء الاصطناعي يتحدث ويمكنه تعزيز حلقات التفكير. 

أشار رئيس الذكاء الاصطناعي في مايكروسوفت إلى أن التفكير في طرق للتكيف مع وصول وعي الذكاء الاصطناعي كان ضروريًا. وفقًا لسليمان، يحتاج الناس إلى إجراء هذه النقاشات دون الانجرار إلى مناقشات مطولة حول صحة وعي الذكاء الاصطناعي.