생성형 AI: 복잡한 공급업체 환경 탐색

생성형 AI가 빠르게 발전하는 세상에서 기업들은 수많은 선택지 중에서 적합한 공급업체를 선정해야 하는 중요한 과제에 직면해 있습니다. 이러한 의사결정 과정은 최근 오픈AI에서 발생한 심각한 위기 사태로 더욱 복잡해졌으며, 이는 AI 분야에서 가장 유력한 기업들의 안정성에 대한 의문을 제기하고 있습니다.

인공지능 도입의 증가와 위험성

생성형 AI의 도입이 급증하고 있으며, 오픈AI가 그 선두에 서 있습니다. 오라일리 조사에 따르면 현재 기업의 23%가 오픈AI의 모델을 사용하고 있으며, 이는 가장 가까운 경쟁사인 구글의 바드(Bard)의 사용률을 훨씬 능가하는 수치입니다. 그러나 이러한 높은 도입률은 AI 벤더 시장에 내재된 위험성을 부각합니다. 오픈AI가 최근 겪었던 위기는 이러한 기술에 크게 의존하는 기업들의 취약성을 보여줍니다.

이러한 취약성은 시장에 존재하는 수많은 AI 스타트업에도 적용됩니다. G2의 소프트웨어 현황 보고서에 따르면 AI는 1,000개 이상의 업체가 참여하고 신제품이 급증하면서 가장 빠르게 성장하는 분야입니다. 이러한 성장은 합성 미디어 및 AI 글쓰기 도우미와 같은 특정 AI 분야에서도 두드러지게 나타납니다. 그러나 AI 분야에서 새로운 업체와 제품이 빠르게 등장함에 따라 데이터 프라이버시, 저작권 문제, 편향성, 윤리적 문제 및 규제 준수와 관련된 위험이 수반됩니다.

벤더 평가 시 기술적인 측면뿐만 아니라 다른 요소들도 고려해야 합니다

Rich Products와 같은 기업에게 AI 공급업체 선정은 기술적 역량 평가를 넘어섭니다. Rich Products의 CIO인 예시 류(Yexi Liu)는 공급업체를 평가할 때 기술력, 비즈니스 가치, 그리고matic 관점을 중점적으로 고려해야 한다고 강조합니다. Rich Products는 다른 기업들과 마찬가지로 데이터 보호에 중점을 두고 있으며, AI 솔루션이 공정하고 편향되지 않으며 투명하게 제공되도록 노력하고 있습니다.

마찬가지로, 언스트앤영이 전 세계 CEO들을 대상으로 실시한 설문조사에서도 생성형 AI에 대한 상당한 투자에 대해 거의 만장일치로 동의하는 것으로 나타났습니다. 그러나 이러한 투자는 민감한 데이터의 오용 가능성, 법적 문제, 그리고 기술의 노후화 위협 등 다양한 위험을 수반합니다.

AI 공급업체 선정 시 법적 및 윤리적 고려 사항

인공지능(AI) 관련 법률 환경은 여전히 ​​진화하고 있으며, 여러 업체들이 저작권 문제로 소송에 휘말리고 있습니다. 기업들은 업체들의 데이터 사용 정책, 보안 조치, 그리고 면책 조항에 대해 반드시 확인해야 합니다. 예를 들어, 마이크로소프트, 구글, 그리고 어도비는 자사 AI 제품에 대한 면책 ​​조항을 발표했는데, 이는 AI 사용자 보호에 대한 법적 중요성이 점점 커지고 있음을 보여줍니다.

모델 학습 또한 중요한 관심 영역으로 떠오르고 있습니다. 기업들은 공급업체의 학습 과정의 투명성과 데이터 개인정보 보호 및 법률 준수에 미치는 영향에 대해 의문을 제기해야 합니다. 이러한 위험은 특정 학습 데이터 사용에 영향을 미칠 수 있는 잠재적인 규제 변화까지 확장됩니다.

전략적 민첩성은 주요 공급업체 선정 기준 중 하나입니다

급변하는 AI 환경에서 민첩성과 유연성은 핵심입니다. 예를 들어, 최근 ChatGPT에 PDF 업로드 기능이 추가되면서 여러 스타트업이 하룻밤 사이에 설 자리를 잃었습니다. 컨스텔레이션 리서치의 앤디 투라이는 기업들이 "킬 스위치"와 같은 개념을 도입하여 필요시 벤더를 변경할 수 있는 백업 계획과trac상의 유연성을 확보해야 한다고 조언합니다.

프라이스워터하우스쿠퍼스의 산딥 아그라왈은 공급업체가 기본적인 AI 모델을 넘어 상당한 가치를 제공하는 것이 중요하다고 강조합니다. 공급업체는 특정 분야에 대한 전문성을 입증하고 업종별 요구에 맞춘 솔루션을 제공해야 합니다.

미래에 대비한 AI 투자 전략

AI 기술이 지속적으로 발전함에 따라 기업은 AI 시스템이 모델에 구애받지 않도록 하여 새로운 모델이나 개선된 모델에 쉽게 적응할 수 있도록 해야 합니다. 가트너의 아룬 찬드라세카란은 이러한 접근 방식을 지지하며, 유연성을 위해 API 계층을 분리하여 시스템을 구축할 것을 권고합니다.

또한, AI 오케스트레이션 레이어 개념이 trac주목받고 있습니다. 이러한 레이어를 통해 기업은 다양한 기반 모델, 클라우드 플랫폼 및 데이터 소스를 통합하여 AI 배포에 대한 포괄적인 접근 방식을 제공할 수 있습니다. 엔비디아와 같은 벤더와 랭체인(LangChain)과 같은 플랫폼은 이 분야에서 핵심 플레이어로 부상하며, 다재다능하고 크로스 플랫폼 AI 솔루션을 제공하고 있습니다.

생성형 AI 공급업체 선정에는 기술적 역량과 법적, 윤리적, 전략적 고려 사항을 균형 있게 고려한 다각적인 접근 방식이 필요합니다. AI 환경이 빠르게 진화함에 따라 기업은 AI의 잠재력을 최대한 활용하고 내재된 위험을 최소화하기 위해 공급업체 선정에 있어 민첩하고, 정보에 밝으며, 신중해야 합니다.