شركة Lingo Telecom الأمريكية تواجه غرامة مليون دولار لرسائل روبوكولز المولدة بالذكاء الاصطناعي

وافقت شركة Lingo Telecom، وهي مزود خدمات صوتية مقرها الولايات المتحدة، على تسوية بقيمة مليون دولار مع لجنة الاتصالات الفيدرالية (FCC). اتهمت الشركة بتسهيل مكالمات روبوكولز المدعومة بالذكاء الاصطناعي التي أثرت على ناخبي الانتخابات التمهيدية في نيو هامبشاير عام 2024. 

في 21 يناير 2024، تعرض العديد من مواطني نيو هامبشاير للترهيب عبر مكالمات هاتفية بصوت يشبه صوت الرئيس جو بايدن. كانت المكالمات آلية، وأخبرت الأهداف أن التصويت في الانتخابات التمهيدية الرئاسية للولاية سيؤدي إلى حرمانهم من التصويت في الانتخابات العامة في نوفمبر. تم تسجيل الصوت باستخدام صوت عميق مزيف يحاكي جو بايدن باستخدام خوارزمية التعلم العميق. 

Lingo Telecom تواجه عقوبات وإجراءات امتثال

تم تنفيذ العملية من قبل المستشار السياسي ستيف كرامر، الذي قال إن الهدف لم يكن التأثير على الانتخابات بل توضيح مدى خطورة الذكاء الاصطناعي. ومع ذلك، كان لأكشن كرامر آثار سلبية محتملة، حيث قدمت معلومات خاطئة للناخبين وهددت نزاهة الانتخابات. تم استخدام تقنية Lingo Telecom في هذه العملية لأنها سهلت إرسال هذه الرسائل إلى الأشخاص المعنيين. 

وفقاً للتسوية، سيتعين على Lingo Telecom دفع مليون دولار كغرامة مدنية، بينما كانت لجنة الاتصالات الفيدرالية تريد من الشركة دفع 2 مليون دولار. كما يُطلب من الشركة وضع خطة امتثال قوية، تشمل الامتثال لإطار عمل مصادقة هوية المتصل STIR/SHAKEN التابع للجنة الاتصالات الفيدرالية.

يهدف هذا الإطار إلى معالجة مشكلة تزوير هوية المتصل. تم استخدامه في حملة مكالمات الروبوت لجعل المكالمات تبدو وكأنها تأتي من أرقام شرعية أخرى. 

شددت لجنة الاتصالات الفيدرالية أيضاً على أن هذه التسوية أساسية لإرسال رسالة قوية إلى الشركات الأخرى المشاركة في مثل هذه الأنشطة أو التي تيسرها. على الرغم من قبول Lingo Telecom للتسوية، فقد انتقدت بشدة إجراءات لجنة الاتصالات الفيدرالية، قائلة إن المنظم يحاول إدخال قواعد جديدة بشكل رجعي.

مسؤول في لجنة الاتصالات الفيدرالية يسلط الضوء على مخاطر استنساخ الصوت بالذكاء الاصطناعي في الانتخابات

أشار لويان إيجال، رئيس مكتب إنفاذ القانون في لجنة الاتصالات الفيدرالية (FCC)، إلى أن انتحال الهوية عبر تزوير هوية المتصل واستنساخ الصوت بالذكاء الاصطناعي أمر خطير جداً، خاصة خلال فترة الانتخابات. وأشار إيجال إلى أن هذه التقنيات يمكن أن يساء استخدامها من قبل جهات فاعلة تابعة للدول سعياً وراء أجندة سياسية أو من قبل جهات أجنبية تنوي التدخل في العمليات السياسية للبلاد.

يواجه ستيف كرامر، المستشار السياسي الذي أجرى مكالمات الروبوت، عواقب أكثر خطورة. اقترحت لجنة الاتصالات الفيدرالية غرامة بقيمة 6 ملايين دولار ضد كرامر، الذي قد يواجه أيضاً ما يصل إلى سبع سنوات في السجن بتهم قمع الناخبين.

 بالإضافة إلى ذلك، قد يُحكم على كرامر بسنة واحدة بتهمة انتحال شخصية مرشح سياسي. تصور التهم كيف تتعامل السلطات مع هذه القضية، رآها مثالاً واضحاً على المخاطر التي تأتي مع استخدام الذكاء الاصطناعي في السياسة. 

رحب روبرت وايسمان، الرئيس المشارك لمنظمة Public Citizen غير الربحية، بإجراءات لجنة الاتصالات الفيدرالية في هذه الحالة، قائلاً إن الصور المقلدة تشكل «تهديداً وجودياً لديمقراطيتنا».