Исследование подчеркивает угрозу коллапса знаний из-за направленности искусственного интеллекта

Эндрю Дж. Петерсон, исследователь из Университета Пуатье, недавно опубликовал исследование, вызвавшее ажиотаж на различных платформах, включая Hacker News и Reddit. 

Питер утверждает, что этот «коллапс знаний» может произойти из-за нашей постоянно растущей зависимости от систем искусственного интеллекта, в том числе от языковых моделей и баз знаний, которые удовлетворяют наши информационные потребности. Из этого следует, что компьютеризированный ИИ может помочь людям получить больше общепринятых знаний, в то время как существует риск того, что уникальные и нестандартные идеи, имеющие важное значение для развития, будут игнорироваться и забыты.

Понимание краха знаний

Поскольку знания становятся все более сжатыми, а люди постоянно сталкиваются с сужением полосы пропускания информации, одновременно ощущая меньшую ценность использования разнообразного хранилища информации, Питерсон рассматривает когнитивный коллапс как прогрессию. 

Однако это явление не только является препятствием для инновационных идей, которые делают большой скачок вперед, но и опасно для самого условия, которое имеет решающее значение для нахождения прорывов во всех областях — многообразия человеческого мышления.

В исследовательской работе объясняется, как системы искусственного интеллекта, если уделять внимание потоку данных, который является обязательным к прочтению, и невероятно популярным цифрам, могут привести к ситуации, когда нетрадиционные знания — правильная пища, на которой основывается творчество и от которой зависят инновации, — остаются в стороне. 

Петерсон не колеблясь предупреждает нас, что если мы будем все больше и больше полагаться на эти технологии искусственного интеллекта при отборе наших знаний, то мы окажемся запертыми в «хоре конформистов», оставшись лишь с ограниченным спектром понимания и воображения.

Преодоление предвзятости ИИ в сторону знаний 

В той же попытке выяснить истинные причины коллапса знаний он разработал простуюmaticмодель, демонстрирующую накопление знаний при использовании ИИ. Результаты его исследования показывают, что механизм ИИ, оказывая лишь незначительное преимущество по отношению к общеизвестным знаниям, существенно влияет на их распространение в обществе и преувеличивает маргинализацию периферийных знаний. 

Кроме того, модель предполагает, что это явление чрезвычайно усиливается взаимозависимостью рекурсивных автономных систем, где простая привитая предвзятость или ошибка, предрасполагающая ИИ к условностям, служит шаблоном для следующей итерации.

В модели Петерсона стимулирование процесса личного восприятия передовых академических знаний имеет огромное значение. В статье утверждается, что эти стимулы станут нашей единственной защитой от ситуации, когда экономическое и социальное давление приведет к единообразию моделей мышления и закроет двери для разнообразия идей, необходимого для возникновения инновационных идей.

Балансировка возможностей ИИ для достижения достаточного масштаба знаний

Идея мозгового штурма знаний также изображается, с одной стороны, как возможное опустошение, но с другой стороны, в эссе исследуются способы предотвращения этого негативного воздействия. 

По словам Петерсона, один из ключевых вопросов — это объединение усилий общества и государственных структур, а не предоставление людям возможности действовать самостоятельно. Например, при проектировании систем искусственного интеллекта существует возможность отходить от поставленной задачи, включая узкоспециализированные и нестандартные аспекты, а цель заключается в том, чтобы весь спектр человеческих знаний оставался не только доступным, но и ценным.

Более того, ссылаясь на тот факт, что роль децентрализованных, открытых баз знаний как альтернативы сужению влияния ИИ в этом отношении такжеdentкак возможное решение. Такие платформы, как Wikidata, arXiv или IPFS, могли бы служить защитой от потери маргинальных знаний, и, таким образом, «хвосты» больших данных всегда будут столь же захватывающими и доступными для изучения, как и любые новые горизонты развития человечества.

Призыв к разнообразию знаний для поддержания человеческого знания

Статья Петерсона служит красноречивым свидетельством ценности гетерогенного мышления и генерации знаний, которую необходимо учитывать в контексте будущих начинаний и изобретений человечества. 

С внедрением искусственного интеллекта процесс сбора знаний неизбежно станет более сложным. Поэтому поддержание богатого и разнообразного информационного потока в этом цифровом мире становится необходимостью.

Эта дискуссия, спровоцированная исследованиями, поднимает критически важные вопросы, имеющие жизненно важное значение для сообщества; центральным элементом обсуждения является наше представление о роли ИИ в нашем обществе. Учитывая трудности интеграции ИИ в нашу жизнь, опасения Петерсона по поводу коллапса знаний побуждают нас задуматься о том, что нам следует делать, чтобы ИИ не уменьшал человеческие знания, а не увеличивал их. 

Поддержание хорошо выраженного и живого множества идей в конкуренции за генерацию человеческих знаний в условиях быстрого развития в области курирования знаний ИИ является самой сложной проблемой для будущего нашего общества как вида, который непрерывно Осборн.

Источник новостей:https://hackernoon.com/ai-and-the-problem-of-knowledge-collapse