- Генетическое скрещивание в генеративном ИИ снижает разнообразие, влияя на креативность и усиливая предвзятость в контенте, созданном искусственным интеллектом.
- Системы ИИ, обученные на однородных наборах данных, могут выдавать менее привлекательные и заслуживающие доверия результаты.
- Для снижения рисков критически важны разнообразные наборы данных и меры прозрачности при разработке ИИ.
Наряду с прогрессом, искусственный интеллект (ИИ) все больше развивается, и риск так называемого «инбридинга» в системах генеративного ИИ становится угрозой, давно известной среди человеческих популяций и домашних животных.
Эта статья прольет свет на концепцию инбридинга в контексте генеративного ИИ и о том, как инбридинг может быть связан с будущим контента, созданного ИИ.
Понимание инбридинга в генеративном ИИ Системы генеративного ИИ, такие как большие языковые модели (LLM), в основном обучаются на обширных наборах данных текстового, визуального и аудиоконтента, доступных в Интернете. Изначально наборы данных в основном включали предметы, созданные людьми, такие как литература, статьи и произведения искусства. Однако с появлением инструментов генеративного ИИ все больше контента в интернете создается самим ИИ.
Этот сдвиг вызывает опасения относительно качества и разнообразия наборов данных, используемых для обучения будущих систем ИИ. По мере развития контента, созданного ИИ, ожидается, что многие будущие поколения моделей ИИ будут обучаться на наборах данных, которые не представляют человеческий контент, а являются материалом, созданным ИИ.
Последствия инбридинга в генеративном ИИ многогранны.
Напротив, продолжение обучения системы ИИ на все более однородных наборах данных может привести к снижению креативности и оригинальности в выводах, сгенерированных ИИ.
Если этот процесс повторяется — то есть копирование с копии — последовательно на протяжении поколений, качество вывода размывается, и результаты рискуют стать менее увлекательными и менее отражающими то, что мы считаем человеческим творческим выводом. С ростом контента, созданного ИИ и обученного на инбредных наборах данных, эти проблемы могут усугубиться.
Если обучающие наборы данных недостаточно разнообразны, то разработанные системы ИИ будут лишь усиливать и преувеличивать предвзятость, присутствующую в контенте, созданном ИИ, тем самым еще больше подрывая доверие к использованию контента, созданного ИИ, в качестве источника информации. Кроме того, отсутствие разнообразия в обучающих данных может ограничить возможность разработки систем ИИ, которые могли бы правильно понимать и представлять широкий спектр человеческого опыта и перспектив. Это может ограничить прогресс в различных областях применения ИИ, таких как обработка естественного языка, генерация контента и системы принятия решений.
Решение проблемы инбридинга в генеративном ИИ
Прежде всего, это реальная угроза, особенно инбридинг технологий генеративного ИИ. Тем не менее, это возлагает обязанность на исследователей, разработчиков и даже политиков действовать проактивно, обеспечивая использование разнообразных и репрезентативных наборов данных в качестве приоритета №1 при обучении системы ИИ, интегрируя механизмы, способные обнаруживать и снижать предвзятость в контенте, созданном ИИ, и обеспечивая эффективное междисциплинарное сотрудничество при решении и обеспечении этических и социальных последствий создания ИИ.
Они также должны способствовать необходимости открытости и подотчетности при развертывании систем ИИ и требовать, чтобы осведомленность об ограничениях и предвзятости передавалась пользователям контента, созданного ИИ. Таким образом, все заинтересованные стороны могут проактивно стремиться сотрудничать в использовании силы генеративного ИИ, смягчая риски, связанные с инбридингом в разработке ИИ.
Концепция инбридинга в генеративном ИИ представляет собой большую будущую проблему для разработки и развертывания систем ИИ. Это поможет им обеспечить ответственное и этичное развитие технологии, приносящее благо обществу, путем понимания последствий и способов эффективного улучшения инбридинга в генеративном ИИ.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Глория Кабуру
Глори — крайне осведомлённый журналист, владеющий инструментами ИИ и методами исследований. Она увлечена темой искусственного интеллекта и является автором нескольких статей по этому вопросу. Она постоянно следит за последними достижениями в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
