Машинное «забывание» прокладывает путь к ответственному и этичному развертыванию ИИ

В переломный момент для области искусственного интеллекта (ИИ) исследователи решают насущную проблему, связанную с этой технологией — обучение систем ИИ тому, как забывать. Саммит по ИИ вывел эту проблему на первый план, подчеркнув важность «машинного забывания» как критического инструмента для снижения рисков, создаваемых ИИ. 

По мере того как ИИ продолжает интегрироваться в различные аспекты общества, его преимущества неоспоримы, но таковы же и потенциальные опасности. Эта развивающаяся область исследований стремится решить эти проблемы путем эффективного и экономически выгодного удаления проблемных данных из моделей ИИ, особенно глубоких нейронных сетей (DNN), которые играют центральную роль в современных приложениях ИИ.

Обучение современных DNN, включая известные модели, такие как ChatGPT и Bard, является интенсивным процессом, требующим значительных вычислительных ресурсов и времени. Эти модели, известные как большие языковые модели (LLM), требуют огромных объемов данных и энергии для обучения, что эквивалентно десяткам гигаватт-часов — уровню энергопотребления, который мог бы обеспечить энергией тысячи домохозяйств в течение года. Суть проблемы заключается в том, что переобучение систем ИИ для «забывания» конкретных данных является трудоемкой и ресурсоемкой задачей.

Чтобы решить эту проблему, возникла новая область исследований, известная как «машинное забывание» (machine unlearning). Исследователи работают над разработкой методов, позволяющих моделям ИИ эффективно «забывать» данные, представляющие риск для общества, сохраняя при этом высокую точность. В авангарде этих исследований стоит сотрудничество экспертов по компьютерным наукам из Уорикского университета и Google DeepMind.

Профессор Питер Триантафиллоу из факультета компьютерных наук Уорикского университета недавно стал соавтором публикации под названием «К неограниченному машинному обучению» (Towards Unbounded Machine Unlearning), доступной на препринт-сервере arXiv. Он подчеркивает сложность глубоких нейронных сетей (DNN), которые могут содержать триллионы параметров, что затрудняет понимание того, как и почему эти модели достигают своих целей. Эта сложность, в сочетании с огромными наборами данных, на которых они обучаются, вызывает опасения относительно потенциального вреда, который DNN могут причинить обществу.

Решение проблем предвзятости и конфиденциальности

Одним из наиболее значительных рисков, связанных с DNN, является наличие предвзятых данных. Эти модели могут поддерживать негативные стереотипы, обучаясь на наборах данных, изобилующих предвзятостью. Например, системы ИИ могут ошибочно ассоциировать врачей с мужчинами, а медсестер — с женщинами, или даже усиливать расовые предрассудки. Кроме того, DNN могут включать данные с «ошибочными аннотациями», такие как неправильная маркировка предметов, что может иметь серьезные последствия, особенно в таких приложениях, как распознавание изображений.

Кроме того, нарушение конфиденциальности отдельных лиц является серьезной проблемой. Право на забвение, закрепленное в таких регуляторных актах, как GDPR, предоставляет отдельным лицам право требовать удаления своих данных из любого набора данных и программы ИИ. Это создает значительные трудности для технологических гигантов и подчеркивает необходимость эффективных методов машинного «забывания».

Обещание машинного «забывания»

Недавние исследования, проведенные профессором Триантафиллоу и его командой, привели к созданию прорывного алгоритма «машинного забывания». Этот алгоритм позволяет DNN избирательно «забывать» проблемные данные без необходимости полного переобучения модели с нуля. Важно то, что он различает три разных типа данных, которые необходимо «забыть»: предвзятость, ошибочные аннотации и вопросы конфиденциальности. Эта инновация предлагает практическое и эффективное решение для снижения рисков, связанных с ИИ.

Машинное «забывание» (unlearning) теперь позиционируется как жизненно важный инструмент для обеспечения ответственного развертывания технологий ИИ. Позволяя системам ИИ «забывать» данные, которые поддерживают предвзятость, содержат ошибки или нарушают конфиденциальность, общество может извлекать выгоду из ИИ, не компрометируя этические и социальные ценности.