NIH сталкивается с критикой из-за «запрета на ИИ», основанного на непонимании технологии

Недавнее решение Национальных институтов здравоохранения США (NIH) запретить использование искусственного интеллекта (ИИ) в процессе рассмотрения грантов вызвало резкую критику со стороны академического сообщества. Хотя эта политика направлена на защиту конфиденциальности подаваемых заявок, эксперты утверждают, что она основана на непонимании технологии, что потенциально может затронуть даже такие распространенные поисковые системы, как Google. Этот скандал разжег дебаты о масштабах и последствиях запрета, поскольку исследователи пытаются понять границу между инструментами ИИ и обычными онлайн-запросами.

Запрет NIH на ИИ вызывает вопросы

Национальные институты здравоохранения США, крупный игрок в сфере финансирования исследований, ввели запрет на использование искусственного интеллекта в процессе рассмотрения грантов. Обоснование запрета связано с опасениями по поводу сохранения конфиденциальности подаваемых заявок. По словам NIH, сервисы ИИ вызывают опасения, поскольку они способны хранить и повторно использовать любую предоставленную им информацию, тем самым нарушая ожидания конфиденциальности при рецензировании. Однако эта позиция вызвала значительную критику в академической среде.

Критики утверждают, что запрет NIH на ИИ не проводит четкой границы между использованием продвинутых систем ИИ и проведением базовых онлайн-поисков. В качестве яркого примера исследователи отмечают, что даже看似 безобидный запрос в такой стандартной поисковой системе, как Google, может непреднамеренно раскрыть конфиденциальные темы грантовых заявок. Джаред Роч, старший научный сотрудник Института системной биологии в Сиэтле, подчеркивает необходимость для NIH четко outlining поведения, которое оно намеревается запретить. Он предполагает, что хотя достижение нулевого риска может быть нереалистичным, понимание приемлемых уровней риска имеет решающее значение.

Дебаты о последствиях запрета на ИИ

NIH, являясь основным источником финансирования фундаментальных исследований в США, распределяет значительную часть своего ежегодного бюджета через гранты. Эти гранты проходят тщательный процесс рассмотрения, при котором добровольные ученые оценивают новизну и значимость предлагаемых тем исследований. Обычно рецензенты используют онлайн-ресурсы, включая поисковые системы, чтобы глубже изучить предысторию этих тем. Однако введение запрета вызвало дебаты о том, могут ли сами базовые веб-поиски непреднамеренно нарушить конфиденциальность, учитывая взаимосвязанный характер цифровой информации.

Чиновники NIH придерживаются своего решения, утверждая, что стандартные веб-поиски и системы на основе ИИ фундаментально различаются. Они аргументируют это тем, что, в то время как веб-поиски извлекают существующую информацию, системы ИИ генерируют новые выходные данные на основе входных, что создает больший риск повторного использования конфиденциальной информации. Эксперты отрасли, включая Мохаммеда Хоссейни, постдока Северо-Западного университета, согласны с этим различием. Он отмечает, что системы ИИ предполагают комплексные входные данные, тогда как веб-поиски обычно состоят из нескольких ключевых слов. Это различие, по его словам, особенно важно для защиты исследователей и их идей от вопросов интеллектуальной собственности.

Призыв к ясности

По мере продолжения дебатов академики подчеркивают важность четкого определения границ запрета на ИИ. Эксперты утверждают, что для обеспечения того, чтобы запрет эффективно выполнял свою задачу, не препятствуя при этом непреднамеренно исследовательскому процессу, необходимо тонкое понимание того, как работает технология. Балансирование между необходимостью конфиденциальности и реалиями современных технологий имеет первостепенное значение, поскольку исследовательский ландшафт становится все более цифровым и взаимосвязанным.

Хотя запрет Национальных институтов здравоохранения (NIH) на использование искусственного интеллекта (ИИ) при рассмотрении грантов вызвал споры, он также привлекает внимание к более широким проблемам, которые создает быстро развивающаяся технология в сфере исследований. По мере того как научное сообщество справляется с этими вызовами, становится очевидным, что разработка политик, обеспечивающих тонкий баланс между инновациями и конфиденциальностью, является постоянной задачей. Дебаты вокруг запрета на ИИ подчеркивают необходимость непрерывного диалога между финансирующими организациями, исследователями и экспертами в области технологий для формирования эффективных и обоснованных политик на будущее научных открытий.