Исследователи предлагают руководящие принципы по использованию ИИ для снижения ошибок в научных исследованиях

Доказано, что существуют серьезные недостатки в применении машинного обучения в научных исследованиях. Эта проблема была выявлена во многих исследовательских работах, охватывающих различные области, но команда из 19 исследователей из разных дисциплин опубликовала руководящие принципы по ИИ для ответственного использования машинного обучения в науке под руководством Арвинда Нараянана и Сайаша Капура, обоих из которых являются учеными-компьютерщиками в Принстонском университете.

Руководящие принципы по ИИ для научных исследований

Авторы говорят в отчете, что их работа является попыткой указать на эту проблему достоверности, которая может преобладать во всей исследовательской экосистеме. Нараянан утверждает, что не существует универсальных стандартов для защиты целостности исследовательских методов, и машинное обучение теперь применяется во всех научных областях, поэтому это может стать более серьезной проблемой, чем кризис воспроизводимости, наблюдавшийся в социальной психологии десятилетие назад. Он называет текущий кризис кризисом воспроизводимости. Как сказал Нараянан,

«Когда мы переходим от традиционных статистических методов к методам машинного обучения, количество способов «выстрелить себе в ногу» становится значительно больше».

Источник: AzoAI.

Но авторы из области медицинских исследований, компьютерных наук, социальных наук и математики также имеют некоторые хорошие новости. Они говорят, что набор лучших практик может помочь решить текущую проблему. Выпускник компьютерных наук Капур, который фактически организовал исследовательскую работу по созданию контрольного списка для научных работ и работает с Нараянаном, сказал, что проблема носит системный характер, и решение для нее также должно быть системным.

Публикация может замедлиться, но точность возрастет

Фокус нового контрольного списка, основанного на консенсусе, заключается в обеспечении подлинности исследований, использующих машинное обучение. Эволюция науки основывается на воспроизводимости результатов и факте, что утверждения должны быть проверены независимо. Без этого новые научные исследования невозможны на надежной основе на основе предыдущей работы, и вся система теряет достоверность.

Новый контрольный список требует от исследователей предоставления подробной информации об использовании моделей машинного обучения, так как они обязаны предоставить наборы данных, использованные для обучения модели, ее код, возможности оборудования, дизайн пилотного проекта и цели исследования, а также любые ограничения в выводах исследования, поскольку акцент делается на прозрачности.

Хотя возможно, что повышенные требования этих новых стандартов могут замедлить публикацию новых исследовательских работ, исследователи инициативы по-прежнему считают, что принятие этих правил будет полезно для увеличения темпов открытий и инноваций в целом. 

Один из авторов исследования, Эмили Кентрелл, студентка докторантуры Принстонского университета, сказала, что им небезразличен темп научных исследований, но, обеспечивая, чтобы качество публикуемых статей соответствовало стандартам, будущие статьи смогут опираться на них для дальнейших исследований. Капур также говорит, что ошибки являются негативными, учитывая их общее влияние в коллективном масштабе и потерю времени, что, в свою очередь, обходится в деньги, поскольку они препятствуют научным исследованиям, получающим финансирование и инвестиции.