Исследователи стремятся внедрить человеческую неопределенность для повышения надежности ИИ

В быстро развивающейся области искусственного интеллекта (ИИ) исследователи из Кембриджского университета разрабатывают передовой подход для решения фундаментальной проблемы — отсутствия человеческой неопределенности в системах ИИ. Хотя ИИ часто преуспевает в точности и достоверности, он уступает в понимании и учете человеческих качеств, таких как сомнение и ошибка. В попытке заполнить этот пробел ученые исследуют способы внедрения человеческой неопределенности в программы ИИ, особенно в таких критически важных областях, как медицинская диагностика.

Внедрение человеческой неопределенности

Многие системы ИИ, особенно те, которые полагаются на обратную связь от людей, работают на предположении, что люди всегда точны и уверены в своих решениях. Однако реальные решения по своей природе отмечены несовершенством, ошибками и сомнениями. Исследовательская группа из Кембриджского университета стремилась согласовать это человеческое поведение с машинным обучением, с целью повышения надежности и снижения рисков во взаимодействиях человека и ИИ.

Сложности в обработке человеческой неопределенности

Чтобы лучше понять последствия внедрения человеческой неопределенности в системы ИИ, исследователи модифицировали установленный набор данных для классификации изображений. Они позволили человеческим участникам указывать уровни своей неопределенности при маркировке изображений. Результаты оказались интригующими; хотя системы ИИ, обученные с использованием неопределенных меток, улучшили обработку сомнительной обратной связи, включение человеческой неопределенности иногда приводило к снижению производительности систем «человек-ИИ».

В сфере ИИ подход «человек в контуре» (human-in-the-loop), который позволяет получать обратную связь от человека, рассматривается как средство снижения рисков в областях, где автоматизированные системы могут оказаться недостаточными. Однако это ставит вопрос о том, как эти системы реагируют, когда человеческие коллеги выражают сомнения. Кэтрин Коллинз (Katherine Collins), первый автор исследования, подчеркивает важность учета неопределенности с точки зрения человека, заявляя,

«Неопределенность играет центральную роль в том, как люди рассуждают о мире, но многие модели ИИ не учитывают этот фактор».

В исследовании подчеркивается, что в сценариях, где ошибки могут иметь минимальные последствия, например, когда вы принимаете незнакомца за друга, человеческая неопределенность может быть несущественной. Однако в приложениях, критичных для безопасности, таких как работа клиницистов с медицинскими системами ИИ, человеческая неопределенность может быть опасной. Мэтью Бэркер, соавтор исследования, подчеркивает необходимость в лучших инструментах для калибровки моделей ИИ, что позволит людям выражать свою неопределенность. Он отмечает,

«Хотя машины можно обучать с полной уверенностью, люди часто не могут этого сделать, и модели машинного обучения испытывают трудности с этой неопределенностью».

Влияние на производительность

Исследовательская группа провела эксперименты с использованием различных наборов данных, включая тот, в котором участники различали цвета птиц. Результаты показали, что замена решений машин на человеческие часто приводила к значительному снижению производительности. Это демонстрирует сложности бесшовной интеграции людей в системы машинного обучения.

Стремясь преодолеть разрыв между неопределенностью ИИ и человека, исследователи делают свои наборы данных общедоступными, чтобы поощрить дальнейшие исследования в этой области. Кэтрин Коллинз подчеркивает важность прозрачности, заявляя: «Неопределенность — это форма прозрачности, и это имеет огромное значение». Она подчеркивает необходимость определения того, когда следует доверять модели, а когда — человеку, особенно в таких приложениях, как чат-боты, где понимание языка возможностей имеет решающее значение для естественного и безопасного пользовательского опыта.