- Howso는 투명한 AI를 제공하는 반면, 다른 기업들은 불투명한 블랙박스 AI를 사용합니다.
- 투명한 AI는 소매, 의료, 교육 분야에 혜택을 주며, 마스터카드와 같은 고객이 있습니다.
- 마이크 캡스는 공정성과 책임성을 위해 AI 투명성을 강조합니다.
인공 지능(AI)에 의해 점점 더 주도되는 세상에서, 의사 결정 과정의 투명성은 많은 사람들에게 시급한 우려 사항이 되었습니다. 라일리 기반의 설명 가능한 AI 전문 회사인 Howso의 공동 창립자 마이크 캅스는 사람들이 아침 식사 재료에 대해 검토하듯, 의료 및 교육과 같은 삶의 중요한 측면에 영향을 미치는 AI 시스템에 대해 투명성을 요구해야 한다고 주장합니다.
블랙 박스 AI의 부상
AI의 우리 삶에 대한 광범위한 존재는 의료 절차, 신용 승인, 가석방 결정에 이르기까지 중요한 의사 결정 과정에서 그 활용을 이끌었습니다. 그러나 캅스는 기존 AI 시스템의 상당수가 '블랙 박스 AI'라고 불리는 불투명성을 가지고 있다는 문제를 지적합니다.
이러한 시스템은 결론에 도달하는 방법에 대한 명확한 통찰 없이 최종 판단을 내리므로, 사용자와 이해 관계자들은 의사 결정 기준에 대해 어둠 속에 남겨집니다.
Howso는 2018년 마이크 캅스에 의해 설립되었으며, 블랙 박스 AI의 만연함에 도전하는 것을 사명으로 합니다. 회사의 독특한 AI 접근 방식인 '귀속 가능한 AI'(attributable AI)는 이를 차별화합니다.
귀속 가능한 AI는 사용자가 결정을 특정 데이터 포인트로 추적할 수 있게 하여, 의사 결정 과정을 투명하고 이해 가능하게 만듭니다. 예를 들어, 의료 수술 권장 사항이 내려질 경우, Howso의 시스템은 해당 결정에 영향을 미친 가장 중요한 17개의 데이터 포인트를 특정하여 명확성과 책임성을 제공합니다.
Howso의 AI 엔진은 다양한 도메인에서 응용 프로그램을 찾았습니다. 주요 고객 중 하나인 Scanbuy는 주요 소매업체와 협력하여 Howso의 도구를 고객 인텔리전스에 활용합니다. 이를 통해 소매업체는 정확하고 설명 가능한 방식으로 고객 선호도를 예측할 수 있습니다.
특히 N.C. 주립 대학교와 UNC와 같은 교육 기관들도 특정 프로젝트에 Howso의 기술을 채택하여, 학계에서 투명성 있는 AI에 대한 증가하는 수요를 강조합니다.
9월에 Howso의 AI 엔진을 오픈 소스로 공개하기로 한 결정은 회사의 투명성 장려에 대한 헌신을 강조합니다. 이 조치는 사용자가 자체 설명 가능한 AI 기반 플랫폼을 설계할 수 있도록 하여, 투명성 있는 AI 기술의 도달 범위를 더욱 확장합니다.
주요 고객 및 파트너십
Howso의 인상적인 고객 목록에는 마스터카드와 스페인 보험 회사인 무투아 데 마드리레냐(Mutua de Madrileña)와 같은 산업 거인이 포함됩니다. 또한 버지니아 주 행동 건강 및 발달 서비스 부서는 향상된 의사 결정 과정을 위해 Howso의 기술을 활용했습니다. 이러한 파트너십은 투명성과 책임성을 우선시하는 AI 시스템의 광범위한 적용 가능성과 수요를 보여줍니다.
캅스는 AI에서 투명성의 중요성을 강조하며 식품 라벨과 비교합니다. 소비자가 영양 라벨을 의존하여 음식에 대해 정보에 입각한 선택을 하듯, 개인들은 자신의 삶에 영향을 미치는 AI 기반 결정에 대해 유사한 투명성을 요구해야 합니다. 이는 단순한 신뢰의 문제가 아니라 책임 있는 소프트웨어 개발을 위한 근본적인 요구 사항입니다.
블랙 박스 AI의 함정
캅스가 강조하듯, 블랙 박스 AI는 여러 가지 내재된 문제를 제기합니다. 첫째, AI 시스템의 신뢰성과 책임성에 대한 질문을 제기합니다. AI 시스템의 내부 작동이 숨겨져 있으면 버그나 오류를 식별하고 수정하기 어려워집니다. 결과적으로 의도하지 않은 결과나 편견의 잠재성이 해결되지 않아 상당한 교체 비용이 발생할 수 있습니다.
투명성이 중요한 AI의 특히 중요한 응용 분야 중 하나는 가석방 결정입니다. 이러한 결정은 종종 편견이 포함될 수 있는 역사적 데이터에 의존합니다. 이러한 편견은 효율성을 위해 확장될 때 영속화될 수 있으며, 잠재적으로 불공정하고 차별적인 결과를 초래할 수 있습니다. 캅스는 법정 절차를 간소화하고 가속화하려는 욕구가 인종 편견을 영속화하는 대가로 이루어져서는 안 된다고 강조합니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
Brian Koome
브라이언 쿰은 2017 년 이후 블록체인 및 암호화폐 업계에서 활동해 온 7 년 이상의 경험을 보유하고 있습니다. BlockToday.com 을 포함한 주요 출판사에 기고했으며, BitDegree.org 에서 이더리움 101 과정을 개발한 후 Cryptopolitan 의 전속 작가로 합류했습니다. 브라이언은 에버그린 가이드 (EG), 심층 분석, 인터뷰, 가격 분석을 다루며 DeFi, 블록체인 혁신, 그리고 신흥 암호화폐 프로젝트에 집중하여 독자들에게 큰 호응을 얻고 있습니다.
