Инбридинг ИИ может серьезно повлиять на выборы в США

Как мы знаем, концепция инбридинга включает в себя коррупцию генома, когда особи генетически схожей группы размножаются. Это часто приводит к деформациям и другим проблемам со здоровьем у новорожденных. То же самое происходит с моделями ИИ в настоящее время, поскольку они обучаются на контенте от другого ИИ, по мере того как интернет все больше заполняется контентом, сгенерированным ИИ. Этот инбридинг ИИ приведет к производству ненадежного и худшего контента, что негативно скажется на выборах в США в этом году, согласно экспертам.

Когда модели ИИ впервые были запущены для оптимизации задач и экономии времени создателей контента, они обучались на контенте, сгенерированном людьми, включая текст, аудио и видео. И теперь большинство контента, доступного в интернете, в основном сгенерировано ИИ, поскольку интернет переполнен им, а модели ИИ перерабатывают данные низкого качества для целей обучения.

Это будет иметь долгосрочные последствия для человеческого общества и эволюции технологий ИИ, поскольку чистый генофонд сокращается. Под чистым генофондом мы подразумеваем контент, изначально созданный людьми, который был доступен для обучения ИИ. Согласно экспертам, они оценили, что через несколько лет контент, сгенерированный ИИ, может достичь почти 90% от всего контента, доступного в интернете. Поскольку такие инструменты, как ChatGPT, Gemini и Dall-E, ежедневно выдают огромные объемы контента на онлайн-платформы, от блогов до социальных сетей и даже мейнстримных СМИ.

Бесплодный ИИ впереди

Согласно экспертам, генеративный ИИ может находиться на спаде, поскольку мы, возможно, достигли его пика. Кремниевая долина также обеспокоена этим кризисом, так как они опасаются, что искусственный интеллект может приближаться к зиме, поскольку инвесторы могут считать ИИ хайпом, и из него больше нельзя будет извлечь много пользы.

Бернард Марр, автор и технологический бизнес-консультант, поддержал статью Forbes своим собственным мнением.

Исследовательская и консультационная фирма в области ИИ SwissCognitive также заявила, что инбридинг генеративного ИИ представляет опасность для креативности и разнообразия. Они заявили, что для поддержания эффективности и надежности ИИ необходимы свежие данные, сгенерированные людьми.

Инбридинг ИИ может сеять хаос на выборах в США

Инбридинг ИИ — это реальная угроза. Предположим, вы обучаете модель ИИ на данных другой модели ИИ, поскольку данные доступны только из предыдущих усилий. Теперь представьте, что предыдущие данные содержали различные предубеждения и несоответствия или неполные наборы данных. Теперь ваша новая модель ИИ будет только поддерживать эти предубеждения. При огромном объеме дезинформации относительно выборов, включая дипфейки, ложные новости о кандидатах и политических деятелях, могут иметь те же плохие последствия для предстоящих выборов, согласно экспертам.

The Washington Post сказал в статье,

«Политическая реклама никогда не отличалась точным изображением оппонента кандидата — и теперь искусственный интеллект угрожает сделать искажение более реалистичным, чем когда-либо прежде. Вместо того чтобы ждать, пока ИИ вызовет хаос на выборах 2024 года, регуляторы, законодатели и политические партии должны действовать сейчас».

Источник: Washington Post.

Мы можем понять, насколько разрушительными могут быть последствия манипулирования контента с помощью искусственного интеллекта оппонентами, ярыми сторонниками или иностранными акторами, пытающимися дестабилизировать демократический процесс.

Issue One, группа по политической реформе из Вашингтона, поделилась твитом, состоящим из новостной статьи из The Philadelphia Inquirer. Твит Issue One — это лишь проблеск того, что беспокоит эти группы.

Как мы знаем, инструменты ИИ могут легко манипулировать фактами против кого-либо, и эти инструменты доступны любому, кто хочет их использовать. Вместе с группами, спонсируемыми государствами, это стало серьезной угрозой, а доступность социальных сетей для вирусного распространения контента — лишь вишенка на торте. Один небольшой пример — фейковые новости на платформе X о «нападении Ирана на Израиль тяжелыми ракетами», которые могут действительно изменить настроение общественности, и шутка в том, что эти новости были сгенерированы собственным чат-ботом платформы.

И не забывайте о поддельном голосовом звонке, имитирующем голос Байдена, пытающемся удержать общественность от голосования за два дня до дня голосования на праймериз. Любите вы Байдена или ненавидите, но эти злонамеренные тактики играют свою роль. Мы становимся свидетелями некоторых интересных событий.