Howso가 "블랙박스" AI 문제를 해결함에 따라 AI 분야의 투명성에 대한 요구가 증가하고 있습니다

인공지능( AI ) 이 점점 더 중요한 역할을 하는 세상에서 의사결정 과정의 투명성은 많은 사람들에게 절실한 문제로 대두되었습니다. 설명 가능한 AI 전문 기업인 하우소(Howso)의 공동 창립자 마이크 캡스는 사람들이 아침 식사 재료를 꼼꼼히 살펴보는 것처럼, 의료나 교육과 같이 삶의 중요한 부분에 영향을 미치는 AI 시스템에도 투명성을 요구해야 한다고 주장합니다.

블랙박스 AI의 등장

인공지능(AI)이 우리 삶에 깊숙이 자리 잡으면서 의료 시술, 신용 승인, 가석방 결정 등 중요한 의사 결정 과정에 활용되고 있습니다. 그러나 캡스는 기존의 많은 AI 시스템이 가진 중대한 문제점으로 흔히 "블랙박스 AI"라고 불리는 불투명성을 지적합니다 

이러한 시스템은 결론에 도달하는 과정을 명확하게 보여주지 않고 최종 판단을 내리기 때문에 사용자와 이해관계자는 의사 결정 기준에 대해 알 수 없습니다.

Howso는 이전에는 Diveplane으로 알려졌으며, 2018년 Mike Capps가 블랙박스 AI의 만연에 도전하기 위해 설립했습니다. 이 회사의 독특한 AI 접근 방식인 "귀속 가능한 AI"는 Howso를 차별화하는 요소입니다. 

귀속 가능한 AI는 사용자가 의사 결정의 특정 데이터 포인트를 trac할 수 있도록 하여 의사 결정 과정을 투명하고 이해하기 쉽게 만듭니다. 예를 들어, 의료 수술 권고가 이루어지면 Howso 시스템은 해당 결정에 영향을 미친 가장 중요한 17가지 데이터 포인트를 정확히 파악하여 명확성과 책임성을 제공합니다.

Howso의 AI 엔진은 다양한 분야에서 활용되고 있습니다. 고객사 중 하나인 Scanbuy는 주요 소매업체들과 협력하여 Howso의 고객 분석 도구를 활용하고 있습니다. 이를 통해 소매업체들은 고객 선호도를 정확하고 설명 가능한 방식으로 예측할 수 있습니다. 

특히 NC State와 UNC와 같은 교육 기관들도 특정 프로젝트에 Howso의 기술을 도입하면서 학계에서 투명한 AI에 대한 수요가 증가하고 있음을 보여주고 있습니다.

지난 9월 Howso가 AI 엔진을 오픈소스로 공개하기로 한 결정은 투명성 증진에 대한 회사의 의지를 보여줍니다. 이러한 움직임을 통해 사용자들은 설명 가능한 AI 기반 플랫폼을 직접 설계할 수 있게 되었으며, 투명한 AI 기술.

주목할 만한 고객 및 파트너십

Howso의 인상적인 고객 목록에는 Mastercard와 스페인 보험 회사인 Mutua de Madrileña와 같은 업계 거물들이 포함되어 있습니다. 또한 버지니아주 행동 건강 및 발달 서비스국은 의사 결정 프로세스 개선을 위해 Howso의 기술을 활용하고 있습니다. 이러한 파트너십은 투명성과 책임성을 우선시하는 AI 시스템의 광범위한 적용 가능성과 수요를 보여줍니다.

캡스는 식품 영양 성분표에 비유하며 AI의 투명성이 얼마나 중요한지 강조합니다. 소비자들이 영양 성분표를 참고하여 식품에 대한 정보를 바탕으로 선택을 내리는 것처럼, AI 기반 의사결정이 그들의 삶에 미치는 영향에 대해서도 유사한 투명성을 요구해야 한다는 것입니다. 이는 단순히 신뢰의 문제가 아니라 책임감 있는 소프트웨어 개발의 필수 요건입니다.

블랙박스 AI의 함정

캡스가 지적했듯이, 블랙박스 AI는 여러 가지 내재적인 문제를 안고 있습니다. 첫째, AI 시스템의 신뢰성과 책임성에 대한 의문을 제기합니다. AI 시스템의 내부 작동 방식이 숨겨져 있으면 버그나 오류를dent하고 수정하기가 어려워집니다. 결과적으로 의도치 않은 결과나 편향이 발생할 가능성이 해결되지 않고, 이는 상당한 교체 비용으로 이어집니다.

인공지능이 특히 중요한 적용 분야 중 하나는 가석방 결정인데, 이 분야에서 투명성은 매우 중요합니다. 가석방 결정은 종종 과거 데이터에 의존하는데, 이 데이터에는 편견이 내재되어 있을 수 있습니다. 효율성을 위해 데이터 규모가 커질수록 이러한 편견은 더욱 심화되어 불공정하고 차별적인 결과를 초래할 가능성이 있습니다. 캡스는 법원 절차를 간소화하고 신속하게 처리하려는 의도는 이해하지만, 인종적 편견을 영속화하는 대가를 치러서는 안 된다고 강조합니다.