Исследование подчеркивает угрозу коллапса знаний из-за фокуса ИИ

Эндрю Дж. Петерсон, исследователь из Университета Пуатье, недавно опубликовал исследование, которое вызвало бурную реакцию на различных платформах, включая Hacker News и Reddit. 

Питер утверждает, что этот «коллапс знаний» может произойти из-за нашей постоянно растущей зависимости от систем ИИ, включая языковые модели и базы знаний, которые удовлетворяют наши информационные потребности. Следовательно, компьютеризированные ИИ могут помочь людям получить более традиционные знания, но существует риск, что идеи, уникальные и отклоняющиеся от нормы, необходимые для развития, будут упущены и забыты.

Понимание коллапса знаний

По мере того как знания становятся все более сжатыми, а люди постоянно сталкиваются с сужением информационного потока и одновременно воспринимают меньшую ценность в использовании разнообразных информационных хранилищ, Петерсон вводит понятие когнитивного коллапса как прогрессивного процесса. 

Это явление, однако, является не только препятствием для инновационных идей, которые делают большой скачок вперед, но и опасно для самого условия, которое имеет решающее значение для обнаружения прорывов во всех областях — разнообразия человеческого мышления.

Исследовательская работа объясняет, как системы ИИ, если они уделяют внимание потоку данных, который является обязательным для чтения и имеет безумно популярные показатели, могут привести к ситуации, когда нестандартные знания — правильная пища, на которой зависит креативность и инновации, — остаются за бортом. 

Петерсон не колеблется, предупреждая нас, что если мы будем все больше полагаться на эти технологии ИИ для выбора наших знаний, мы окажемся запертыми в «хоре конформистов», имея только ограниченный кругозор и воображение.

Навигация предвзятости ИИ в отношении знаний 

В той же попытке выяснить истинные причины коллапса знаний он разработал простую математическую модель, показывающую накопление знаний при использовании ИИ. Выводы его исследования показывают, что механизм ИИ имел лишь небольшую предвзятость в пользу мейнстримных знаний, что значительно влияет на распределение публичных знаний и усиливает маргинализацию периферийных областей знаний. 

Кроме того, модель предполагает, что это явление крайне ускоряется взаимозависимостью рекурсивных автономных систем, где простая внедренная предвзятость или ошибка, предрасполагающая ИИ к конформизму, служит шаблоном для следующей итерации.

В модели Петерсона стимул в процессе получения академических знаний на переднем крае лично имеет огромную ценность. В статье утверждается, что эти стимулы будут нашей единственной защитой от ситуации, в которой экономическое и социальное давление приведет к единообразию шаблонов мышления и закроет двери для разнообразия идей, необходимых для возникновения инновационных идей.

Балансирование стремления ИИ к достаточному масштабу знаний

Идея мозгового штурма знаний также изображена с одной стороны как возможное разрушение, но с другой стороны эссе исследует способы предотвращения этого негативного воздействия. 

По словам Петерсона, одна из ключевых проблем заключается в объединении усилий как социальных, так и официальных структур, а не просто в том, чтобы оставлять все на откуп отдельным лицам. Например, проектирование систем ИИ способно отклоняться от назначенной миссии, включая нишевые и необычные аспекты, и цель состоит в том, чтобы поддерживать весь спектр человеческих знаний не только доступным, но и ценным.

Кроме того, указывая на то, что роль децентрализованных открытых баз знаний как альтернативы сужающему влиянию ИИ в этом отношении также определяется как возможное решение. Платформы, такие как Wikidata, arXiv или IPFS, могут функционировать как защитники от потери маргинальных знаний, и таким образом, хвосты больших данных всегда будут такими же захватывающими и доступными для обнаружения, как и любая новая граница в человечестве.

Призыв к разнообразию знаний для поддержания человеческих знаний

Работа Петерсона служит красноречивым свидетельством ценности гетерогенного мышления и генерации знаний, которые необходимо иметь в виду в контексте будущих человеческих усилий и изобретений. 

С интеграцией ИИ процесс сбора знаний неизбежно станет более сложным. Таким образом, поддержание богатой и разнообразной природы информации в этом цифровом мире становится необходимостью.

Эта дискуссия, вызванная исследованием, поднимает критические вопросы, важные для сообщества; основным элементом обсуждения является то, что мы считаем роль ИИ в нашем обществе. С трудностями интеграции ИИ в нашу жизнь опасения Петерсона по поводу коллапса знаний заставляют нас задуматься о том, что мы должны делать, чтобы избежать снижения роли ИИ в уменьшении человеческих знаний, а не в их увеличении. 

Поддержание хорошо представленного и живого набора идей в конкуренции за генерацию человеческих знаний на фоне быстрых разработок в области курирования знаний ИИ является самой сложной проблемой для будущего нашего общества как вида, который постоянно Осборн.

Источник новостей:https://hackernoon.com/ai-and-the-problem-of-knowledge-collapse