يشعر سام ألتمان بالقلق إزاء المخاطر الخفية الكامنة وراء تطبيق ChatGPT

أوضح سام ألتمان، الرئيس التنفيذي لشركة OpenAI، كيف تتخذ شركته قراراتها بشأن ChatGPT. وقال إن أدق الخيارات المتعلقة بسلوك روبوت الدردشة تقلقه أكثر من السياسات الشاملة.

في مقابلة مع تاكر كارلسون، قال ألتمان إنه لا "ينام جيداً في الليل". وأضاف: "هناك الكثير من الأمور التي أشعر بثقل كبير حيالها، ولكن ربما لا شيء أكثر من حقيقة أن مئات الملايين من الناس يتحدثون إلى نموذجنا كل يوم".

وصف ألتمان الانتحار بأنه أصعب مشكلة يواجهها الفريق، مشيراً إلى دعوى قضائية رفعتها عائلة ألقت باللوم على ChatGPT في وفاة ابنها المراهق.

قال: "ربما تحدثوا عن [الانتحار]، وربما لم ننقذ حياتهم. ربما كان بإمكاننا قول شيء أفضل. ربما كان بإمكاننا أن نكون أكثر استباقية. ربما كان بإمكاننا تقديم نصيحة أفضل، مثل: أنت بحاجة إلى الحصول على هذه المساعدة."

في الشهر الماضي، رفع والدا آدم رين دعوى قضائية ضد شركة OpenAI بتهمة المسؤولية عن المنتج والتسبب في الوفاة، وذلك بعد انتحار ابنهما البالغ من العمر 16 عامًا. وجاء في الدعوى أن "برنامج ChatGPT ساعد آدم بشكل فعلي في استكشاف طرق الانتحار". وبعد ذلك بوقت قصير، نشرت OpenAI منشورًا بعنوان "مساعدة الناس عندما يكونون في أمس الحاجة إليها"، أوضحت فيه خطوات لتحسين الاستجابات في "المواقف الحساسة"

من يضع القواعد الأخلاقية لـ ChatGPT؟

قال ألتمان إن النموذج الأساسي يُدرَّب على المعرفة المشتركة للبشرية، ثم تقوم OpenAI بمواءمة السلوك وتحديد ما لن يفعله النظام. وأضاف: "هذه مشكلة معقدة للغاية. لدينا الآن عدد كبير من المستخدمين، وهم يأتون من خلفيات حياتية مختلفة تمامًا... ولكن بشكل عام، فوجئتُ بسرور بقدرة النموذج على التعلّم وتطبيق إطار أخلاقي".

وقال إن الشركة استشارت "مئات من فلاسفة الأخلاق والأشخاص الذين فكروا في أخلاقيات التكنولوجيا والأنظمة". وأشار إلى أحد الحدود التي تفرضها الشركة، وهو أن النظام لن يقدم تعليمات بشأن إنشاء أسلحة بيولوجية.

وقال: "هناك أمثلة واضحة على الحالات التي يكون فيها للمجتمع مصلحة تتعارض بشكل كبير مع حرية المستخدم"، مضيفاً أن الشركة "لن تصيب في كل شيء، وتحتاج أيضاً إلى مساهمة العالم"

ماذا يحدث لخصوصية المستخدم أثناء استخدام ChatGPT؟

عندما قال كارلسون إن الذكاء الاصطناعي التوليدي يُمكن استخدامه "للسيطرة الشمولية"، ردّ ألتمان بأنه كان يُطالب بـ"امتياز الذكاء الاصطناعي"، والذي بموجبه تُعتبر المعلومات التي يُدلي بها الشخص لروبوت الدردشةdent. "عندما تتحدث إلى طبيب عن صحتك أو إلى محامٍ عن مشاكلك القانونية، لا يُمكن للحكومة الحصول على هذه المعلومات، أليس كذلك؟... أعتقد أنه ينبغي أن يكون لدينا المفهوم نفسه للذكاء الاصطناعي."

كما ورد في Cryptopolitan، أكد ألتمان سابقًا أنه مع دخول الذكاء الاصطناعي إلى مجالات أكثر خصوصية، فإن مدخلات المستخدم تظل بدون ضمانات قانونية.

وأشار إلى أنه في الوقت الحالي، يمكن للسلطات الأمريكية الحصول على بيانات المستخدمين من الشركة عن طريق أمر استدعاء.

عندما سُئل ألتمان عما إذا كان الجيش سيستخدم برنامج ChatGPT لإلحاق الأذى بالناس، لم يُجب إجابةً مباشرة. قال: "لا أعرف كيف يستخدم العسكريون برنامج ChatGPT اليوم... لكنني أظن أن الكثيرين منهم يتواصلون معه طلباً للمشورة". وأضاف لاحقاً أنه غير متأكد "من شعوره حيال ذلك"

OpenAI واحدة من شركات الذكاء الاصطناعي التي حصلت على جائزة من وزارة الدفاع الأمريكية بقيمة 200 مليون دولار.

توقع كارلسون أنه على مساره الحالي، يمكن للذكاء الاصطناعي التوليدي، وبالتالي ألتمان، أن يجمع قوة أكبر من أي شخص آخر، واصفاً ChatGPT بأنه "دين"

قال ألتمان: "ما يحدث الآن هو أن الكثير من الناس يستخدمون ChatGPT وغيرها من برامج الدردشة الآلية، وقد أصبحت جميعها أكثر كفاءة. إنها جميعًا تقوم بالمزيد، وتستطيع تحقيق المزيد، وبدء مشاريع تجارية جديدة، واكتساب معارف جديدة". وأضاف أنه يعتقد أن الذكاء الاصطناعي سيقضي على العديد من الوظائف الموجودة حاليًا، لا سيما على المدى القريب.