Растет спрос на прозрачность в сфере ИИ, поскольку Howso решает проблему «черного ящика» в ИИ

В мире, все больше движимом искусственным интеллектом (ИИ), прозрачность процессов принятия решений стала насущной проблемой для многих. Майк Кэппс, соучредитель компании Howso из Роли, специализирующейся на объяснимом ИИ, утверждает, что, подобно тому как люди внимательно изучают ингредиенты своей еды на завтрак, они должны требовать прозрачности в системах ИИ, влияющих на важные аспекты их жизни, такие как здравоохранение и образование.

Расцвет искусственного интеллекта типа «черный ящик»

Широкое распространение ИИ в нашей жизни привело к его использованию в ключевых процессах принятия решений, от медицинских процедур и одобрения кредитов до решений об условно-досрочном освобождении. Однако Кэппс утверждает, что существенной проблемой многих существующих систем ИИ является их непрозрачность, часто называемая «ИИ черного ящика» 

Эти системы выносят окончательные суждения, не предоставляя четкого понимания того, как эти выводы были сделаны, оставляя пользователей и заинтересованные стороны в неведении относительно критериев принятия решений.

Компания Howso, ранее известная как Diveplane, была основана Майком Кэппсом в 2018 году с целью бросить вызов распространенности искусственного интеллекта, работающего по принципу «черного ящика». Уникальный подход компании к ИИ, известный как «атрибутивный ИИ», выделяет ее среди конкурентов. 

Атрибутивный ИИ позволяет пользователям tracпричины принятия решения по конкретным данным, что делает процесс принятия решений прозрачным и понятным. Например, если дается рекомендация о хирургическом вмешательстве, система Howso может точно определить 17 наиболее важных данных, повлиявших на это решение, обеспечивая ясность и подотчетность.

Система искусственного интеллекта Howso нашла применение в самых разных областях. Один из ее клиентов, Scanbuy, сотрудничает с крупными розничными сетями, используя инструмент Howso для анализа потребительских предпочтений. Это позволяет розничным продавцам прогнозировать предпочтения клиентов точным и объяснимым образом. 

Примечательно, что такие образовательные учреждения, как Университет штата Северная Каролина и Университет Северной Каролины, также внедрили технологию Howso для конкретных проектов, подчеркивая растущий спрос на прозрачный искусственный интеллект в академической среде.

Решение открыть исходный код движка искусственного интеллекта Howso в сентябре подчеркивает приверженность компании принципам прозрачности. Этот шаг дает пользователям возможность создавать собственные объяснимые платформы на основе ИИ, еще больше расширяя возможности прозрачных технологий.

Известные клиенты и партнеры

Впечатляющий список клиентов Howso включает таких гигантов индустрии, как Mastercard и испанская страховая компания Mutua de Madrileña. Кроме того, Департамент поведенческого здоровья и развития штата Вирджиния использует технологии Howso для улучшения процессов принятия решений. Эти партнерства демонстрируют широкую применимость и востребованность систем искусственного интеллекта, которые ставят во главу угла прозрачность и подотчетность.

Кэппс подчеркивает критическую важность прозрачности в ИИ, проводя параллель с этикетками на продуктах питания. Подобно тому, как потребители полагаются на информацию о пищевой ценности продуктов, чтобы сделать осознанный выбор, люди должны требовать аналогичной прозрачности в отношении решений, принимаемых с помощью ИИ и влияющих на их жизнь. Это не просто вопрос доверия, а фундаментальное требование ответственной разработки программного обеспечения.

Подводные камни искусственного интеллекта типа «черный ящик»

Как подчеркивает Кэппс, концепция «черного ящика» в ИИ порождает ряд существенных проблем. Во-первых, она ставит под сомнение надежность и подотчетность систем ИИ. Если внутренние механизмы системы ИИ скрыты, становится сложноdentи исправлять ошибки или сбои. Следовательно, потенциальные непредвиденные последствия или предвзятость остаются неучтенными, что приводит к значительным затратам на замену.

Одно из особенно важных применений ИИ, где прозрачность имеет решающее значение, — это решения об условно-досрочном освобождении. Эти решения часто основываются на исторических данных, которые могут содержать предвзятость. Эта предвзятость может сохраняться при масштабировании для повышения эффективности, потенциально приводя к несправедливым и дискриминационным результатам. Кэппс подчеркивает, что, хотя существует стремление к упрощению и ускорению судебных процессов, это не должно происходить за счет сохранения расовой предвзятости.