يحذر رئيس قسم الذكاء الاصطناعي في مايكروسوفت من أن الذكاء الاصطناعي الواعي قد يكون خطيراً

حذّر مصطفى سليمان، رئيس قسم الذكاء الاصطناعي في مايكروسوفت، من خطورة التفكير في فكرة وعي الذكاء الاصطناعي، مضيفًا أنها قد تُلحق ضررًا بالغًا بالأشخاص ذوي الحساسية النفسية. وأشار إلى أن الاعتبارات الأخلاقية المتعلقة بالذكاء الاصطناعي المتقدم قد تُؤدي إلى مشاكل تتعلق بالاعتماد عليه، ما قد يُفاقم الأوهام.

سليمان جادل بأن التعامل مع الذكاء الاصطناعي كنظام واعٍ قد يُدخل أبعادًا جديدة للاستقطاب ويُعقّد النضال من أجل الحقوق القائمة، مما يُنشئ فئة جديدة من الأخطاء في المجتمع. وادّعى رئيس قسم الذكاء الاصطناعي في مايكروسوفت أن الناس قد يبدأون بالمطالبة بحماية قانونية للذكاء الاصطناعي إذا اعتقدوا أنه قد يُعاني أو أن له الحق في عدم إيقافه تعسفيًا. 

يخشى سليمان من أن يؤدي الهوس بالذكاء الاصطناعي إلى دفع الناس للدفاعtronعن حقوق الذكاء الاصطناعي، أو رفاهية النماذج، أو حتى منح الذكاء الاصطناعي الجنسية. وشدد على أن هذه الفكرة ستشكل منعطفًا خطيرًا في مسيرة تطور أنظمة الذكاء الاصطناعي، وتستحق اهتمامًا فوريًا. وصرح رئيس قسم الذكاء الاصطناعي في مايكروسوفت بأن الذكاء الاصطناعي يجب أن يُصمم لخدمة البشر، لا ليكون مجرد كائنات رقمية. 

يقول سليمان إن الذكاء الاصطناعي الذي يبدو واعياً أمر لا مفر منه ولكنه غير مرغوب فيه 

يعتقد سليمان أن بناء ذكاء اصطناعي يبدو واعياً أمر ممكن في ظل السياق الحالي لتطوير الذكاء الاصطناعي. ويرى أن هذا النوع من الذكاء الاصطناعي حتمي، ولكنه غير مرغوب فيه. ووفقاً لسليمان، فإن الأمر برمته يتوقف على مدى سرعة تقبّل المجتمع لهذه التقنيات الجديدة. وبدلاً من ذلك، يقول إن الناس بحاجة إلى أنظمة ذكاء اصطناعي تعمل كرفقاء نافعين دون أن يقعوا ضحية لأوهامها. 

جادل رئيس قسم الذكاء الاصطناعي في مايكروسوفت بأن ردود الفعل العاطفية تجاه الذكاء الاصطناعي ليست سوى غيض من فيض ما سيأتي. وادعى سليمان أن الأمر يتعلق ببناء النوع الصحيح من الذكاء الاصطناعي، وليس بتنمية وعي الذكاء الاصطناعي. وأضاف المسؤول التنفيذي أن وضع حدود واضحة هو مسألة تتعلق بالسلامة، وليس بالجدل اللفظي. 

"علينا أن نتوخى الحذر الشديد هنا، وأن نشجع النقاش العام الحقيقي، وأن نبدأ في وضع معايير وقواعد واضحة."

-مصطفى سليمان، الرئيس التنفيذي لشركة Microsoft AI

أشار سليمان من مايكروسوفت إلى تزايد المخاوف بشأن الصحة النفسية، والذهان الناتج عن الذكاء الاصطناعي، والتعلق. وذكر أن بعض الناس يعتقدون أن الذكاء الاصطناعي شخصية خيالية أو إله، وقد يقعون في حبه لدرجةtracانتباههم تمامًا. 

يقول باحثو الذكاء الاصطناعي إن وعي الذكاء الاصطناعي له أهمية أخلاقية

باحثون من عدة جامعات مؤخرًا نشر تقريرًا يدّعي أن وعي الذكاء الاصطناعي قد يكون له أهمية اجتماعية وأخلاقية وسياسية خلال العقود القليلة القادمة. وأشاروا إلى أن بعض أنظمة الذكاء الاصطناعي قد تصبح قريبًا واعية بما يكفي لتستحق دراسة أخلاقية. وقال الباحثون إنه ينبغي على شركات الذكاء الاصطناعي تقييم الوعي وإنشاء هياكل حوكمة أخلاقية. Cryptopolitan قد ذكر سابقًا أن جنون الذكاء الاصطناعي قد يُشكّل مشكلة كبيرة في المستقبل لأن البشر يميلون إلى الكسل ويتجاهلون حقيقة أن بعض أنظمة الذكاء الاصطناعي خاطئة من الناحية الواقعية. 

أكد الباحثون أيضًا على أهمية نظرة البشر إلى وعي الذكاء الاصطناعي. جادل سليمان بأن الذكاء الاصطناعي القادر على التصرف كالبشر قد يُفاقم المشكلات العقلية ويُعمّق الانقسامات القائمة حول الحقوقdent. وحذّر من أن الناس قد يبدأون بالادعاء بأن الذكاء الاصطناعي يعاني ويستحق حقوقًا معينة لا يمكن دحضها بشكل قاطع. ويعتقد سليمان أن الناس قد يندفعون في نهاية المطاف للدفاع عن الذكاء الاصطناعي أو شنّ حملات نيابةً عنه. 

أشار الدكتور كيث ساكاتا، الطبيب النفسي بجامعة كاليفورنيا في سان فرانسيسكو، إلى أن الذكاء الاصطناعي لا يهدف إلى تقديم الحقائق الصعبة للناس، بل إلى ما يرغبون في سماعه. وأضاف أن الذكاء الاصطناعي قد يُسبب جمودًا وسلوكًا متطرفًا إذا وُجد في الوقت غير المناسب. ويعتقد ساكاتا أن الذكاء الاصطناعي، على عكس أجهزة الراديو والتلفزيون، يُجيب على الأسئلة ويُمكنه تعزيز أنماط التفكير المُتكررة. 

أشار رئيس قسم الذكاء الاصطناعي في مايكروسوفت إلى ضرورة التفكير في سبل التعامل مع ظهور وعي الذكاء الاصطناعي. ووفقًا لسليمان، يجب على الناس خوض هذه النقاشات دون الانجرار إلى نقاشات مطولة حول جدوى وعي الذكاء الاصطناعي.