Как известно, концепция инбридинга подразумевает повреждение генома при размножении особей генетически схожей группы. Это часто приводит к деформациям и другим проблемам со здоровьем у новорожденных. То же самое происходит сейчас с моделями ИИ, поскольку они обучаются на контенте, созданном другим ИИ, так как интернет все больше заполняется контентом, сгенерированным ИИ. По мнению экспертов, этот инбридинг в ИИ приведет к созданию ненадежного и некачественного контента, что негативно скажется на выборах в США в этом году.
Когда модели искусственного интеллекта впервые появились для оптимизации задач и экономии времени создателей контента, их обучали на контенте, созданном людьми, включая текст, аудио и видео. А теперь большая часть контента, доступного в интернете, в основном создана ИИ, поскольку интернет переполнен им, и модели ИИ используют для обучения данные низкого качества.
Это будет иметь долгосрочные последствия для человеческого общества и эволюции технологий искусственного интеллекта, поскольку чистый генофонд сокращается. Под чистым генофондом мы подразумеваем контент, изначально созданный людьми и доступный для обучения ИИ. По оценкам экспертов, через несколько лет контент, созданный ИИ, может достичь почти 90% всего контента, доступного в интернете. Такие компании, как ChatGPT, Gemini и Dall-E, ежедневно публикуют огромные объемы контента на онлайн-платформах, от постов в блогах до социальных сетей и даже основных СМИ.
Впереди – бесплодный ИИ
По мнению экспертов, генеративный искусственный интеллект, возможно, находится в упадке, поскольку мы, вероятно, достигли его пика. Кремниевая долина также обеспокоена этим кризисом, опасаясь, что искусственный интеллект может приближаться к своему закату, так как инвесторы могут рассматривать ИИ как ажиотаж, из которого уже мало что можно извлечь.
Бернард Марр, писатель и бизнес-консультант в сфере технологий, поддержал статью Forbes, высказав при этом собственное мнение.
Компания SwissCognitive, занимающаяся исследованиями и консультированием в области искусственного интеллекта, также заявила, что инбридинг в генеративном ИИ представляет опасность для творчества и разнообразия. Они отметили, что для поддержания эффективности и надежности ИИ необходимы новые данные, сгенерированные людьми.
Искусственный интеллект, вызывающий инбридинг, может привести к хаосу на выборах в США
Инбридинг в ИИ — это реальный риск. Допустим, вы обучаете модель ИИ на данных другой модели ИИ, поскольку данные доступны только из предыдущих попыток. Теперь представим, что предыдущие данные содержали различные искажения и несоответствия, или же были недоработанными наборами данных. В этом случае ваша новая модель ИИ будет лишь поддерживать эти искажения. По мнению экспертов, при огромном количестве дезинформации, касающейся выборов, включая дипфейки, ложные новости о кандидатах и политических деятелях могут иметь такие же негативные последствия для предстоящих выборов.
В статье газеты Washington Post говорилось:
«Политическая реклама никогда не славилась точным изображением оппонента кандидата, а теперь искусственный интеллект грозит сделать искажение фактов более реалистичным, чем когда-либо. Вместо того чтобы ждать, пока ИИ вызовет хаос на выборах 2024 года, регулирующие органы, законодатели и политические партии должны действовать уже сейчас»
Источник: Washington Post .
Мы можем осознать, насколько разрушительными могут быть последствия манипулирования контентом с помощью искусственного интеллекта со стороны оппонентов, ярых сторонников или иностранных субъектов, стремящихся дестабилизировать демократический процесс.
Группа по политическим реформам Issue One из Вашингтона опубликовала в Твиттере статью из газеты The Philadelphia Inquirer. Твит Issue One — лишь малая часть того, что волнует эти группы.
Как известно, инструменты искусственного интеллекта легко могут манипулировать фактами против кого-либо, и эти инструменты доступны любому желающему. Наряду с группами, спонсируемыми государством, это стало серьезной угрозой, а возможность распространения контента через социальные сети — это лишь вишенка на торте cake Небольшой пример — фейковые новости платформы X о том, что «Иран атакует Израиль тяжелыми ракетами», которые действительно могут изменить общественное настроение, и шутка в том, что эти новости были сгенерированы собственным чат-ботом платформы.
И не забывайте про фальшивый звонок с имитацией голоса Байдена, призванный отговорить граждан от голосования перед праймериз всего за два дня до дня голосования. Любите вы Байдена или ненавидите, но эти злонамеренные тактики играют свою роль. Нас ждут интересные события.
