Почему профессионалы по-прежнему не доверяют ИИ и агентам ИИ, несмотря на растущее внедрение – исследование YouGov

Компания Pegasystems Inc. (Pega) недавно опубликовала результаты нового исследования, посвященного отношению работников к искусственному интеллекту. В совместном исследовании, проведенном совместно с YouGov, приняли участие более 2100 специалистов из США и Великобритании, использующих цифровые устройства в своей работе. 

В исследовании defiопределены как программные продукты или инструменты, работающие на основе искусственного интеллекта, которые могут помогать в выполнении различных задач, таких как генерация контента, анализ данных, автоматизация повторяющихся процессов или предоставление рекомендаций. 

Согласно исследованию, хотя большинство работников (57%) проявили интерес к использованию агентов ИИ на работе, другие остаются осторожными, выражая серьезные опасения по поводу надежности и качества. 

Почему некоторые специалисты до сих пор не доверяют агентам искусственного интеллекта 

Согласно некоторым отчетам, специалисты исторически выражали недоверие к ИИ, ссылаясь на опасения по поводу надежности и объяснимости. Агентные системы ИИ часто принимают решения, которые трудно интерпретировать, что может привести к ошибкам и недопониманию. 

На вопрос о причинах отказа от использования ИИ-агентов 33% специалистов выразили обеспокоенность качеством работы, выполняемой ИИ. 32% были обеспокоены отсутствием человеческой интуиции и эмоционального интеллекта, а 30% просто не доверяли точности ответов, генерируемых ИИ. 

Некоторые также обеспокоены тем, что агенты ИИ могут заслонять процесс принятия решений, что затруднит понимание и доверие к результатам для специалистов. Такая непрозрачность может затруднить устранение неполадок и остановить прогресс в инновациях. 

Еще одна причина, по которой некоторые профессионалы не полностью одобряют агентный ИИ, заключается в том, что он может ограничивать возможности для роста и обучения. По их словам, хотя агенты ИИ эффективно выполняют поставленные перед ними задачи, они обычно делают это без объяснений.

Это означает, что профессионалы могут упустить возможности для обучения, которые возникают благодаря участию в творческом процессе. В результате получается поверхностное понимание задач и снижение способности к совершенствованию или устранению неполадок с течением времени. 

Многие называются профессионалами потому, что достигли мастерства в ключевых этапах процессов, необходимых для успеха в своей профессии. В результате многие профессионалы предпочитают сохранять контроль и понимание, но это сложнее сделать, когда агенты искусственного интеллекта задействованы 

Таким образом, появление агентов искусственного интеллекта поднимает вопрос о том, готовы ли профессионалы пожертвовать своими уникальными качествами ради автоматизации, которая не гарантирует полностью результаты и со временем подрывает объяснимость. 

Как обстоят дела у профессионалов, внедряющих ИИ-агентов, по сравнению с их скептически настроенными коллегами? 

В последнее время все больше организаций внедряют агентный ИИ, что свидетельствует о его способности улучшать операционную деятельность и повышать производительность. Исследование компании Pegasytems показало, что около 58% опрошенных сотрудников признались, что уже используют ИИ-агентов. 

Первые пользователи уже отметили преимущества. Около 41% респондентов назвали автоматизацию рутинных задач в качестве основного преимущества, за которым следуют сокращение времени, затрачиваемого на поиск информации, связанной с работой (36%), и быстрое составление резюме совещаний (34%). 

Несмотря на существующие ограничения и опасения, 46% опрошенных считают, что ИИ окажет положительное влияние на их работу в течение следующих пяти лет, и лишь 13% ожидают негативных последствий. Остальныеdentзаняли нейтральную позицию по этому вопросу или не были уверены в отношении влияния ИИ.

Что касается совершенствования этих агентов, те, кто уже их использует,dentобласти, которые, по их мнению, нуждаются в большем внимании. 

42% респондентов указали на повышение точности и надежности как на главный приоритет в улучшении инструментов искусственного интеллекта. Далее в списке значатся улучшенное обучение использованию этих инструментов (39%), а затем повышение прозрачности процессов принятия решений в ИИ (33%). 

Исследование показало, что восприятие профессионалами агентов искусственного интеллекта и самого ИИ в целом улучшилось. Однако решениеdentими проблем могло бы повысить уровень принятия.