Глобальные опасения: сгенерированный ИИ дезинформация и кибератаки выходят на первый план
ИИ
- ВЭФ предупреждает о дезинформации с использованием ИИ и кибератаках как об основных глобальных угрозах.
- Развитие технологий ИИ усиливает распространение дезинформации, а кибератаки занимают высокие позиции в списке глобальных рисков.
- Правительства принимают меры по снижению рисков, связанных с ИИ, однако регулирование может отставать от темпов развития.
В своем недавно опубликованном отчете «Глобальные риски 2024» Всемирный экономический форум (ВЭФ) указывает на быстрое развитие технологий искусственного интеллекта (ИИ) как катализатор двух из самых значимых глобальных рисков: дезинформации, созданной ИИ, и кибератак. В отчете «глобальный риск» определяется как события или условия, которые могут негативно повлиять на значительную часть мирового ВВП, населения или природных ресурсов.
Дезинформация, созданная ИИ, выходит на первый план
Глобальный опрос восприятия рисков (GRPS), проведенный ВЭФ, выявляет серьезную обеспокоенность среди респондентов: 53% из них назвали дезинформацию, созданную ИИ, вторым по значимости глобальным риском в 2024 году. Легкость, с которой люди теперь могут создавать и распространять вводящую в заблуждение информацию с помощью моделей ИИ, вызывает тревогу. В отчете отмечается, что для создания дезинформации, сгенерированной ИИ, больше не требуется специализированных навыков благодаря удобным пользовательским интерфейсам, связанным с крупномасштабными моделями ИИ. Эта доступность привела к тревожному распространению фальсифицированной информации и синтетического контента, включая сложное клонирование голоса и поддельные веб-сайты.
Кибератаки занимают пятое место среди глобальных рисков на 2024 год, и 39% респондентов признают их серьезной проблемой. ВЭФ подчеркивает, что киберугрозы остаются на переднем плане глобальных рисков, входя в тройку главных опасений как для государственных, так и для частных структур. Повсеместность и серьезность кибератак подчеркивают их неизменную значимость на мировой арене.
Модели ИИ способствуют распространению дезинформации
ВЭФ отмечает, что появление моделей ИИ упростило создание и распространение дезинформации, убрав необходимость в специализированных навыках. В отчете подчеркивается рост так называемого «синтетического» контента, охватывающего все — от клонирования голоса до поддельных веб-сайтов. ВЭФ наблюдает, что модели ИИ дают возможность распространителям дезинформации, что делает необходимым принятие регуляторных мер, направленных как на хостов, так и на создателей онлайн-дезинформации и незаконного контента.
Реагирование на растущие риски
Правительства реагируют на растущие риски, связанные с дезинформацией, созданной ИИ, вводя новые и развивающиеся нормативные акты. Эти меры направлены не только на создателей, но и на хостов онлайн-дезинформации и незаконного контента. Помимо текущих регуляторных усилий, ВЭФ прогнозирует появление регулирования генеративного ИИ, где пример Китая с водяными знаками на контенте, созданном ИИ, может стать потенциальным решением. Тем не менее, в отчете признается, что темпы и эффективность регулирования вряд ли будут соответствовать быстрому развитию технологий ИИ.
Преодоление цифрового разрыва
Отчет ВЭФ освещает потенциальные последствия слияния технологических достижений и геополитической динамики. Предполагается, что если коммерческие стимулы и геополитические императивы будут диктовать развитие ИИ и других передовых технологий, может возникнуть цифровой разрыв, создающий победителей и проигравших как в развитых, так и в развивающихся экономиках. Неравенство в распределении выгод и рисков может оставить уязвимые страны и сообщества в цифровой изоляции, затрудняя их способность использовать прорывы в ИИ для повышения экономической производительности, в финансах, климате, образовании, здравоохранении и создании рабочих мест.
Навигация в будущее
По мере дальнейшего развития технологий ИИ мировому сообществу настоятельно необходимо решать риски, связанные с дезинформацией, созданной ИИ, и кибератаками. Глобальный отчет о рисках ВЭФ 2024 года подчеркивает важность проактивных регуляторных мер и международного сотрудничества для смягчения негативного воздействия ИИ в глобальном масштабе. Баланс между технологическими инновациями и ответственным управлением будет иметь решающее значение для навигации в сложном ландшафте рисков, связанных с ИИ, и обеспечения более справедливого распределения выгод между нациями и сообществами.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Эдит Патрик
Эдитах — универсальный финтех-аналитик с глубоким пониманием блокчейн-доменов. Её, как и технологии, поражает пересечение технологий и финансов. Её особый интерес к цифровым кошелькам и блокчейну помогает её аудитории.
