Учет глобального воздействия генеративного искусственного интеллекта (Gen AI)

Быстрое появление генеративного искусственного интеллекта (Gen AI) и его трансформирующая сила, примером которой служит широко используемая архитектура трансформеров, значительно изменили цифровой ландшафт. Такие инструменты, как ChatGPT от OpenAI, демократизировали доступ к передовым возможностям ИИ, позволяя пользователям генерировать высококачественный контент в различных форматах при минимальной инфраструктуре или предварительном опыте. Хотя Gen AI предлагает множество преимуществ, его распространение и последствия не являются равномерными на глобальной арене, при этом некоторые страны извлекают больше выгод, чем другие.

Риски в странах с низким уровнем ресурсов

Преимущества систем Gen AI в основном достались странам с высокообеспеченными языками, таким как английский, оставив страны с низким уровнем ресурсов в невыгодном положении. Это различие в доступе и влиянии становится более выраженным в странах, характеризующихся историей насильственных конфликтов и нестабильности, что классифицирует их как страны с критическими рисками. В этих регионах потенциальные риски, связанные с Gen AI, усугубляются.

Дезинформация и дезинформация

Распространение Gen AI, особенно в странах с менее регулируемой медиа-средой, вызвало опасения по поводу распространения дезинформации и фейковых новостей. Злоумышленники в странах с критическими рисками могут использовать возможности Gen AI для манипулирования общественным мнением, подобно тому, что наблюдалось на платформах социальных сетей. Последствия могут быть серьезными, поскольку поиск истины становится все более трудным.

Синтетические медиа и дипфейки

Стратегическое использование синтетических медиа, включая дипфейки, представляет собой значительную угрозу в странах с критическими рисками. При ограниченном контроле над медиа борьба с распространением дипфейков становится трудной задачей, что еще больше усугубляется использованием Gen AI. Недавние события, такие как конфликт между Израилем и ХАМАС, демонстрируют, как Gen AI вносит новые риски даже в страны с устоявшимися медиа-экосистемами.

Гендерные домогательства

В обществах, где целомудрие высоко ценится, гендерные домогательства являются распространенным средством нацеливания на женщин и девочек. Gen AI усиливает эту проблему, делая более легким для домогателей создание и распространение вредоносного контента. Реальное влияние таких случаев может быть глубоким, приводя к ощутимому вреду для отдельных лиц.

Предвзятость данных

Предвзятость в моделях ИИ является хорошо задокументированной проблемой. В странах с низким уровнем ресурсов разработчикам сложно выявлять и исправлять предвзятость без доступа к экспертам по контексту. В результате рынки с критическими рисками сталкиваются с более длительным временем отклика со стороны разработчиков Gen AI, что делает их более уязвимыми к негативным последствиям предвзятости.

Рекомендации по смягчению рисков

Устранение этих рисков является необходимым условием для обеспечения ответственного использования Gen AI и смягчения его негативных последствий, особенно в странах с критическими рисками. Следующие рекомендации являются важными шагами в этом направлении:

Разнообразные команды оценки

Модели Gen AI должны проходить внутреннюю и внешнюю оценку разнообразными командами экспертов. Ред-тиминг (red teaming) — процесс, включающий внешних экспертов для оценки моделей Gen AI на наличие рисков, должен быть открыт для участников из различных географических регионов, избегая ограничений, основанных на компенсации или резидентстве. Это поможет эффективно выявлять и устранять текущие риски.

Атрибуция контента и защитные барьеры

Для борьбы с дезинформацией контент, сгенерированный Gen AI, должен быть четко помечен водяными знаками, указывающими на его ИИ-происхождение. Защитные барьеры, такие как оценка предвзятости обучающих данных, ограничения на графические обучающие данные и политики, запрещающие генерацию сексуального контента, должны быть приоритетными. При внедрении политик контента культурная специфика и участие экспертов по контексту имеют решающее значение, с постоянными обновлениями для сохранения актуальности.

Многоязычные системы отчетности пользователей

Крупные компании Gen AI должны сделать системы отчетности пользователей доступными на языках стран с критическими рисками. В настоящее время доступность таких систем отчетности часто ограничивается английским языком, оставляя пользователей в этих странах с ограниченными средствами для решения проблем и выражения обеспокоенности.