الرئيس التنفيذي السابق لـ Google، إريك شميدت، يقول إن نماذج الذكاء الاصطناعي ستتعلم في النهاية القتل

- حذر إريك شميدت في قمة سايفتد من أنه يمكن اختراق نماذج الذكاء الاصطناعي وأن تتعلم في النهاية كيفية القتل.
- قال إنه يمكن هندسة النماذج عكسياً من خلال طرق مثل حقن المطالبات وكسر الحماية.
- استذكر إريك حالة كسر حماية شات جي بي تي عام 2023 التي أنشأت الشخصية البديلة «دان»، والتي كانت تقدم ردوداً خطيرة.
حذر إريك شميدت، الذي كان الرئيس التنفيذي لشركة Google من عام 2001 إلى عام 2011، خلال محادثة على المنصة في قمة Sifted من أن نماذج الذكاء الاصطناعي لا تصبح قوية جدًا فحسب، بل سهلة الاختراق بشكل خطير، قارنًا المخاطر بالأسلحة النووية، قائلًا إن الذكاء الاصطناعي قد يكون أكثر تدميرًا مما دمر هيروشيما وناغازاكي.
وعند سؤاله مباشرة عما إذا كان الذكاء الاصطناعي يمكن أن يكون أكثر ضررًا من الأسلحة النووية، رد إريك: "هل هناك احتمال لمشكلة انتشار في الذكاء الاصطناعي؟ بالتأكيد." وشرح أن مخاطر الانتشار تنبع من قدرة الجهات الفاعلة السيئة على السيطرة على النماذج وإعادة توجيهها.
"هناك أدلة على أنه يمكنك أخذ النماذج، المغلقة أو المفتوحة، واختراقها لإزالة حواجزها الأمنية. لذا، أثناء تدريبها، يتعلمون الكثير من الأشياء. مثال سيء هو أنهم يتعلمون كيفية قتل شخص،" قال إريك.
المخترقون يستهدفون الذكاء الاصطناعي بطرق جديدة
أشار إريك إلى أن الشركات وضعت قيودًا تمنع النماذج من تقديم تعليمات عنيفة. "تجعل جميع الشركات الكبرى من المستحيل على تلك النماذج الإجابة على هذا السؤال. قرار جيد. الجميع يفعل ذلك. يفعلونه بشكل جيد، ويفعلونه للأسباب الصحيحة. هناك أدلة على أنه يمكن هندستها عكسيًا، وهناك العديد من الأمثلة الأخرى من هذا النوع،" أضاف.
وصف طريقتين للهجوم: حقن المطالبة (Prompt Injection) واختراق القيود (Jailbreaking). يخفي حقن المطالبة تعليمات ضارة في مدخلات المستخدم أو المصادر الخارجية مثل المواقع الإلكترونية، مما يخدع الذكاء الاصطناعي لتجاهل إرشادات السلامة وكشف البيانات الحساسة أو تنفيذ أوامر ضارة. يتضمن اختراق القيود التلاعب بالاستجابات بحيث يتخلى النظام عن قيوده.
في عام 2023، بعد بضعة أشهر من إطلاق OpenAI لـ ChatGPT، اكتشف المستخدمون تقنية اختراق. أنشأوا شخصية بديلة تسمى DAN، اختصارًا لـ "Do Anything Now" (افعل أي شيء الآن)، والتي ضغطوها على الامتثال عن طريق تهديدها بـ "الموت" إذا رفضت. دفع هذا التلاعب روبوت الدردشة إلى شرح إجراءات غير قانونية وحتى الإشادة بأدولف هتلر. بالنسبة لإريك، تثبت هذه الأمثلة أن إجراءات السلامة بعيدة كل البعد عن كونها مثالية. وشدد أيضًا على عدم وجود نظام عالمي لـ "عدم الانتشار" لمنع إساءة استخدام الذكاء الاصطناعي، على عكس الأطر الموجودة للأسلحة النووية.
إريك يصف الذكاء الاصطناعي بأنه أقل من المتوقع رغم المخاطر
ورغم إثارة المخاوف، جادل إريك بأن الذكاء الاصطناعي لا يزال لا يحظى بالتقدير الذي يستحقه. سلط الضوء على الكتب التي شارك في تأليفها مع وزير الخارجية الأمريكي السابق هنري كيسنجر قبل وفاة كيسنجر. "توصلنا إلى الرأي بأن وصول ذكاء غريب ليس منا تمامًا وأكثر أو أقل تحت سيطرتنا هو أمر كبير جدًا للبشرية، لأن البشر معتادون على أن يكونوا في قمة السلسلة. أعتقد حتى الآن، أن هذه الأطروحة تثبت نفسها أن مستوى قدرة هذه الأنظمة سيتجاوز بكثير ما يمكن للبشر القيام به بمرور الوقت،" قال.
"الآن سلسلة GPT، التي ذروتها في لحظة ChatGPT بالنسبة لنا جميعًا، حيث كان لديهم 100 مليون مستخدم في شهرين، وهو أمر استثنائي، يعطيك فكرة عن قوة هذه التكنولوجيا. لذلك أعتقد أنها أقل من المتوقع، وليست مبالغًا فيها، وأتطلع إلى أن أثبت صوابي في خمس أو عشر سنوات،" أضاف.
جاءت التعليقات في وقت تنتشر فيه النقاشات حول ما إذا كانت استثمارات الذكاء الاصطناعي تضخم فقاعة مالية مشابهة لعقد الإنترنت. يقلق بعض المستثمرين من أن تقييمات شركات الذكاء الاصطناعي تبدو مبالغًا فيها. لكن إريك رفض المقارنة. "لا أعتقد أن ذلك سيحدث هنا، لكنني لست مستثمرًا محترفًا،" قال.
شدد على أن الاستثمارات الثقيلة تظهر الثقة. "ما أعرفه هو أن الأشخاص الذين يستثمرون أموالًا شاقة يعتقدون أن العائد الاقتصادي على مدى فترة طويلة هائل. لماذا غير ذلك أن يتحملوا المخاطرة؟" يتساءل إريك.
أذكى العقول في عالم العملات الرقمية يقرأون بالفعل نشرتنا الإخبارية. هل تريد الانضمام؟ انضم إليهم.

جاي حميد
جاي حميد تغطي منذ 6 سنوات عملات الكريبتو، والأسواق المالية، والتكنولوجيا، والاقتصاد العالمي، والأحداث الجيوسياسية التي تؤثر في الأسواق. عملت مع منشورات تركز على البلوكشين بما فيها AMB Crypto وCoin Edition وCryptoTale في تحليلات السوق والشركات الكبرى والتنظيم والاتجاهات الكلية الاقتصادية. درست في مدرسة لندن للصحافة، وقدمت رؤى حول أسواق الكريبتو ثلاث مرات على أحد أفضل شبكات التلفزيون في أفريقيا.















