Глобальные проблемы: дезинформация, создаваемая искусственным интеллектом, и кибератаки выходят на первый план

В своем недавно опубликованном докладе «Глобальные риски 2024» Всемирный экономический форум (ВЭФ)dentстремительное развитие технологий искусственного интеллекта (ИИ) как катализатор двух наиболее значительных глобальных рисков: дезинформации, генерируемой ИИ, и кибератак. В докладе «глобальный риск» defiкак события или условия, которые могут негативно повлиять на значительную часть мирового ВВП, населения или природных ресурсов.

Дезинформация об ИИ выходит на первый план

Опрос Всемирного экономического форума (ВЭФ) о восприятии глобальных рисков (GRPS) выявил значительную обеспокоенность средиdent: 53%dentдезинформацию, создаваемую искусственным интеллектом, вторым по значимости глобальным риском в 2024 году. Легкость, с которой люди теперь могут создавать и распространять вводящую в заблуждение информацию с помощью моделей ИИ, вызывает тревогу. В отчете отмечается, что для создания дезинформации с помощью ИИ больше не требуются специальные навыки, благодаря удобным интерфейсам, связанным с крупномасштабными моделями ИИ. Эта доступность привела к тревожному распространению фальсифицированной информации и синтетического контента, включая сложные методы клонирования голоса и поддельные веб-сайты.

Кибератаки занимают пятое место среди глобальных рисков на 2024 год: 39%dentсчитают их серьезной проблемой. Всемирный экономический форум подчеркивает, что киберугрозы остаются в центре внимания глобальных прогнозов рисков, входя в тройку главных проблем как для государственных,dentи для частных организаций. Повсеместность и серьезность кибератак подчеркивают их непреходящую значимость на глобальном уровне.

Модели искусственного интеллекта способствуют распространению дезинформации

ВЭФ отмечает, что появление моделей ИИ упростило создание и распространение дезинформации, устранив необходимость в специальных навыках. В докладе подчеркивается рост так называемого «синтетического» контента, охватывающего все — от клонирования голоса до поддельных веб-сайтов. ВЭФ отмечает, что модели ИИ расширяют возможности распространителей дезинформации, что делает необходимым принятие регулирующих мер, направленных как на носителей, так и на создателей онлайн-дезинформации и незаконного контента.

Противодействие растущим рискам

Правительства реагируют на растущие риски, связанные с дезинформацией, создаваемой искусственным интеллектом, путем введения новых и постоянно совершенствующихся правил. Эти меры направлены не только на создателей, но и на распространителей онлайн-дезинформации и незаконного контента. В дополнение к существующим регуляторным мерам, Всемирный экономический форум прогнозирует появление регулирования генеративного ИИ, и пример Китая с водяными знаками для контента, созданного ИИ, рассматривается как потенциальное решение. Тем не менее, в докладе признается, что темпы и эффективность регулирования вряд ли будут соответствовать быстрому развитию технологий искусственного интеллекта.

Преодоление цифрового разрыва

В докладе Всемирного экономического форума (ВЭФ) освещаются потенциальные последствия сближения технологических достижений и геополитической динамики. В нем предполагается, что если коммерческие стимулы и геополитические императивы будут диктовать развитие ИИ и других передовых технологий, может возникнуть цифровой разрыв, создающий победителей и проигравших в развитых и развивающихся странах. Неравенство в распределении выгод и рисков может привести к цифровой изоляции уязвимых стран и сообществ, препятствуя их способности использовать достижения ИИ в экономической производительности, финансах, климате, образовании, здравоохранении и создании рабочих мест.

Ориентируясь в будущем

По мере дальнейшего развития технологий искусственного интеллекта мировое сообщество сталкивается с острой необходимостью решения проблем, связанных с дезинформацией и кибератаками, генерируемыми ИИ. В докладе Всемирного экономического форума о глобальных рисках за 2024 год подчеркивается важность упреждающих мер регулирования и международного сотрудничества для смягчения негативных последствий ИИ в глобальном масштабе. Достижение баланса между технологическими инновациями и ответственным управлением будет иметь решающее значение для преодоления сложного ландшафта рисков, связанных с ИИ, и обеспечения более справедливого распределения выгод между странами и сообществами.