- Неконтролируемый террористический контент, созданный с помощью ИИ, бросает вызов законам о безопасности интернета и требует строгих мер защиты.
- Эволюционирующая способность ИИ имитировать голос вызывает опасения по поводу мошенничества с эмоционально заряженной подменой личности, выделяя новые риски, связанные с ИИ.
- Технология deepfake усиливает страхи перед шантажом на базе ИИ и призывает к разработке надежных контрмер против эволюционирующих цифровых угроз.
Влияние ИИ на будущее преступность нельзя недооценивать. Правоохранительные органы и законодатели сталкиваются со сложным взаимодействием между быстро развивающимися технологиями ИИ и преступной деятельностью, что вызывает дебаты о необходимости всесторонних регулирований и мер защиты. По мере того как мир navigates цифровую эпоху, рост искусственного интеллекта (ИИ) представляет собой обоюдоострый меч, революционизируя различные аспекты общества, но также создавая беспрецедентные вызовы. Эти вызовы могут включать террористические атаки, мошенничество с подменой личности или даже шантаж с использованием дипфейков.
Тревожный потенциал ИИ
Появление чат-ботов на базе ИИ быстро меняет ландшафт онлайн-экстремизма, согласно Джонатану Холлу, KC, независимому обзорщику законодательства о терроризме от правительства. Он предупреждает, что Закон о безопасности в сети, разработанный для борьбы с угрозами в интернете, вероятно, столкнется с трудностями в addressing террористического контента, генерируемого ИИ. Холл предупреждает, что полагаться на базы данных известных материалов будет недостаточно для выявления новых форм дискурса, создаваемых чат-ботами на базе ИИ. Он подчеркивает необходимость строгих мер защиты и механизмов enforcement, чтобы гарантировать, что экстремистский контент, сгенерированный ИИ, не распространялся бы без контроля.
Способность ИИ к подмене личности была использована преступниками в все более изощренных схемах мошенничества. Дело Дженнифер ДеСтефано демонстрирует, как ИИ имитировал голос ее дочери, что позволило осуществить похищение с требованием выкупа. Профессор Льюис Гриффин из Центра будущих преступлений Дьюза Университетского колледжа Лондона (UCL) подчеркивает стремительное развитие ИИ в аудио/визуальной подмене личности, где приложения реального времени все ближе к реальности. Потенциал эмоциональной манипуляции через сгенерированные ИИ призывы о помощи или требования выкупа вызывает тревожные опасения относительно будущего таких мошеннических схем.
Распространение технологии дипфейков вызывает страх перед шантажными схемами, основанными на манипулированных изображениях и видео. Профессор Гриффин утверждает, что способность убедительно изображать человека, совершающего вымышленные действия, steadily улучшается. Он envisages сценарии, в которых преступники используют дипфейки для принуждения жертв, угрожая раскрыть вымышленные компрометирующие ситуации. Такие тактики могут причинить жертвам серьезный эмоциональный дистресс и финансовый ущерб, подчеркивая необходимость надежных контрмер против шантажа на базе ИИ.
Хотя автономные системы вооружения, используемые террористами, остаются отдаленной возможностью, лингвистические возможности ИИ уже используются в злонамеренных целях. Дроны и беспилотные автомобили могут быть развернуты для атак, но истинная автономия в террористическом оружии кажется маловероятной. Независимый обзорщик законодательства о терроризме от правительства признает непосредственность влияния ИИ на тактики, основанные на языке, включая усилия по радикализации через нерегулируемые модели чат-ботов.
Законодательные ответы и вызовы
Addressing изменяющегося ландшафта преступности, генерируемой ИИ, требует инновационных законодательных ответов. Теневой министр внутренних дел Йветт Купер предлагает криминализировать намеренное обучение чат-ботов для радикализации уязвимых лиц. Хотя существующие законы охватывают владение информацией о терроризме, адаптированной ИИ, может потребоваться новое законодательство для addressing нюансов экстремизма, движимого ИИ. Вызовы заключаются в определении ответственности и критериев владения в ландшафте, все больше формируемом технологиями ИИ.
Трансформирующий потенциал ИИ выходит за рамки существующих криминальных парадигм. Большие языковые модели, такие как ChatGPT, могут обеспечить спектр мошеннической деятельности, включая финансовые схемы, манипулирование рынком и атаки на отказ в обслуживании. Профессор Гриффин envisages будущее, где системы на базе ИИ выполняют задачи, такие как подача заявок на мошеннические кредиты, взлом и удаленное наблюдение. Он утверждает, что влияние ИИ на традиционные физические преступления может быть ограниченным.
Позиция правительства и осторожность
Признавая как преимущества, так и риски ИИ, правительство привержено осторожному подходу. Закон о безопасности в сети обязывает технологические услуги бороться с незаконным контентом, включая угрозы, сгенерированные ИИ. Представитель правительства подчеркивает адаптивность закона к новым технологиям, включая ИИ, в то время как текущие усилия, такие как создание целевой группы по ИИ и предстоящий Саммит по безопасности ИИ, подчеркивают приверженность правительства пониманию и смягчению потенциальных рисков.
По мере того как ИИ продолжает трансформировать общество, его потенциал для изменения ландшафта преступности столь же глубок. Хотя достижения предлагают преступникам новые инструменты, они также бросают вызов законодателям, правоохранительным органам и обществу в целом, требуя бдительности. Поиск тонкого баланса между использованием возможностей ИИ и защитой от его злоупотреблений является срочной необходимостью, поскольку мир navigates сложную местность преступности, движимой искусственным интеллектом.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Амир Шейх
Амир — технологический журналист с почти шестилетним опытом работы в индустриях криптовалют и технологий. Он окончил университет MAJ, получив степень MBA по финансам и маркетингу. Сейчас он работает в Cryptopolitan, где освещает последние события на рынке криптовалют и прогнозы цен.
