Бабушка из Сан-Диего чудом избежала потери тысяч долларов из-за мошенничества, связанного с клонированием голоса с помощью искусственного интеллекта, имитирующего голос ее любимого внука.dent произошел, когда Морин, бабушка из Северного округа, получила телефонный звонок с анонимного номера, который сначала приняли за звонок с зашифрованного номера ее сестры. Голос на другом конце провода поразительно напоминал голос ее расстроенного внука.
Убедительный обман с помощью ИИ
Звонивший представился ее внуком и сообщил Морин, что попал в автомобильнуюdent, носит шейный корсет и направляется в полицейский участок. Он срочно потребовал 8200 долларов в качестве залога. Обманчивый голос, сгенерированный искусственным интеллектом, был настолько убедительным, что Морин без колебаний поверила, что это ее внук. К звонку присоединился еще и предполагаемый адвокат, что придало афере правдоподобности, заявив, что ее внук сбил дипломата вdent, и подчеркнув необходимость сохранения тайны в течение 72 часов.
Опасаясь за безопасность своего внука, Морин попалась на удочку мошенников. Она поспешно собрала якобы деньги на залог и бросилась в банк за дополнительной суммой. Однако, прежде чем отдать свои с трудом заработанные cash, она предусмотрительно связалась со своей дочерью, чтобы убедиться в благополучии внука. К своему облегчению, она узнала, что ее настоящий внук в безопасности и находится на турнире по гольфу. Это открытие взбесило мошенника, который выплеснул свой гнев во время последующего разговора с дочерью Морин.
Число мошеннических схем, использующих искусственный интеллект, растёт
Мошенничество с использованием поддельных удостоверений личности, например, «мошенничество с бабушкой», заключается в том, что мошенники выдают себя за доверенных лиц, чтобы обманом заставить жертв отправить деньги под предлогом вымышленных чрезвычайных ситуаций. Эта тенденция, особенно среди пожилых людей, набирает обороты и вызывает все большую обеспокоенность у правоохранительных органов. Искусственный интеллект усугубляет проблему, делая имитацию голоса более доступной и экономически выгодной.
Инструменты искусственного интеллекта, такие как ElevenLabs и Stable Diffusion, могут манипулировать голосом и движениями рта, что значительно затрудняет людям различение подлинных аудио- или видеозаписей от подделок. По данным Федеральной торговой комиссии, в 2022 году мошенничество с использованием поддельных устройств заняло второе место по распространенности в США: было зарегистрировано более 36 000 случаев, а ущерб от телефонныхdentпревысил 11 миллионов долларов.
Защита от мошенничества с использованием ИИ
В ответ на растущую угрозу мошенничества с использованием искусственного интеллекта семья Морин разработала защитную стратегию, известную как «кодовое слово». Это уникальное слово известно только членам семьи и служит средством проверки в случае подозрительных звонков. Главное — не сообщать это слово по СМС или электронной почте, а говорить его напрямую по телефону.
Морин подчеркнула эмоциональное потрясение, вызванное мошенничеством, и выразила желание уберечь других от подобных ситуаций. Использование кодовых слов и прямой телефонной связи — это превентивный подход к противодействию растущей проблеме обмана, осуществляемого с помощью искусственного интеллекта.
История бабушки Морин, едва не ставшей жертвой мошенничества с использованием искусственного интеллекта для клонирования голоса, подчеркивает растущую изощренность мошенников. По мере развития технологий искусственного интеллекта становится крайне важным для отдельных лиц и семей принимать защитные меры, такие как кодовые слова и прямое телефонное общение, чтобы обезопасить себя от эмоциональных и финансовых трудностей, вызванных этими обманными схемами.
