AI 투자자들은 자율주행차 베팅을 후회할지도 모른다

수년간 자율주행차 산업은 AI의 다음 대박으로 홍보되어 왔으며, 로보택시가 인간 운전자들을 대체하고 기술이 곧 상용화될 것이라고 확신하는 기업들에 수백억 달러가 쏟아져 들어갔다.

제너럴모터스(GM)는 보고에 따르면 그 중심에 있었다. 자율주행차(AV) 부문인 크루즈(Cruise)를 통해 GM은 무인 운전 시대로의 진격을 주도하고 있다고 밝혔다. 그러나 12월, 메리 바라 CEO는 자동차 충돌 사고처럼 충격을 주는 소식을 전했다. 크루즈가 폐쇄된다는 것이다.

GM은 크루즈의 운영을 더 넓은 소프트웨어 개발 부문으로 통합하며 이를 '재조정'이라고 불렀다. 진정한 메시지는? 로보택시 야망은 물거품이 된 것이다. 바라 회장은 이를 미래 지향적인 조치로 포장하며

크루즈의 실패를 위한 추락

크루즈는 미래에 대한 전면적인 베팅이었다. 바라 회장은 회사의 로보택시가 곧 게임 체인저가 될 것이라고 홍보했다. 2023년 사우스 바이 사우스웨스트(SXSW) 컨퍼런스에서 그녀는

GM은 2030년까지 로보택시로 연간 500억 달러의 추가 수익을 창출할 것으로 전망했으며, 기존 500억 달러 소득의 두 배였다. 이는 혁명적으로 들렸다. 하지만 알고 보니 그 숫자는 현실보다 공상에 가까웠다.

최고조에 달했을 때, 이 부문은 수백 대의 차량을 운영했으며, 모두 수천 명의 원격 근무 인력이 모니터링했다. 이 차량들은 고속도로나 복잡한 도시 도로를 주행할 수 없었고, 반복적으로 교통 체증과 안전 문제를 일으켰다.

한 사건에서는 크루즈 차량이 응급 대응 활동을 방해했다. 다른 사건에서는 한 차량이 샌프란시스코에서 주행 중 갑자기 멈춰 수 시간 동안 교통을 막았다.

그리고 운명을 결정짓는 충돌 사고가 발생했다. 2023년 말, 크루즈 운영 차량이 다른 차량에 치인 보행자를 들이받았다. 자율주행차는 브레이크를 밟았지만 여성을 20피트 끌고 간 후 멈췄다.

그녀는 생존했지만 중상을 입어 입원했다. 크루즈는 1,000만 달러의 소송 해결금을 지불하고 사고 세부 정보를 숨긴 혐의로 벌금을 물었다. GM이 크루즈를 폐쇄할 때쯤에는 크루즈는 PR 재앙이자 재정적 구덩이가 되어 있었다.

하지만 크루즈만이 어려움을 겪은 것은 아니다. 알파벳의 무인 자동차 자회사인 웨이모(Waymo)도 유사한 문제를 겪었다. 웨이모의 차량은 시속 45마일까지만 제한되며 여전히 인간의 감독이 필요하다.

한 번은 로스앤젤레스의 웨이모 로보택시가 주차장에서 끝없이 돌다가 인간 운영자가 개입해야 했던 embarrassing 사건이 발생했다. 알파벳은 웨이모의 손실을 공개하지 않지만, 웨이모를 포함한 '기타 투자' 부문은 2016년 이후 370억 달러를 탕진했다.

수백억 달러가 물거품이 되고, 무인 운전의 미래는 여전히 보이지 않는다

수년간의 테스트와 업계 전체에 1,000억 달러 이상이 투자되었음에도 불구하고, 이러한 기업들은 중요한 과제를 해결하지 못했다. 소위 '엣지 케이스(Edge cases)'가 그 대표적인 예다.

자율주행차는 악천후나 응급 근무자의 지시와 같은 상황을 처리하는 데 어려움을 겪는다. 이는 인간 운전자들이 일상적으로 처리하는 시나리오들이다. 2000년대 중반의 초기 데모는 이러한 문제가 거의 해결된 것처럼 보였다. 하지만 20년 후, 기술은 여전히 준비되지 않았다.

더 넓은 AI 산업도 유사한 문제에 직면해 있으며, 특히 오픈AI의 ChatGPT와 같은 대규모 언어 모델을 개발하기 위한 경쟁이 치열해지면서다. 이러한 시스템은 자율주행차와 마찬가지로 인간의 감독이 필요한 오류에 취약하다.

자율주행 세계에는 '유령 제동(phantom braking)'이 있다. 즉, 차량이 예기치 않게 멈추는 현상이다. 챗봇에는 이에 해당하는 '환각(hallucinations)'이 있다. 이는 AI가 생성해낸 날조된 사실이나 완전한 거짓말이다. 두 가지 문제 모두 동일한 문제를 보여준다. 즉, 이러한 기술들은 advertised된 것처럼 똑똑하거나 신뢰할 수 없다는 것이다.

그리고 AV 산업에서와 마찬가지로 AI 챗봇의 재무 상황도 그리 좋지 않습니다. 가장 주목받는 AI 기업인 OpenAI는 시가총액이 1,600억 달러에 달하지만 매년 수십억 달러의 손실을 보고 있습니다.

유사성은 여기서 그치지 않습니다. 자율주행차는 인간 운전자들을 대체할 도구로 판매되었으며, 챗봇은 고객 서비스 담당자, 기자 및 기타 전문가들을 대체하려는 목표를 가지고 있습니다. 두 산업 모두 아직 인간을 완전히 대체할 수 없는 AI에 의존하고 있어, 최악의 경우 비즈니스 모델이 불안정할 수 있습니다.

인간 요소는 여전히 대체 불가능합니다

자율주행차의 가장 뚜렷한 문제점 중 하나는 인간이 자연스럽게 처리하는 현실 세계의 시나리오를 처리하지 못하는 것입니다. 크루즈(Cruise) 차량이 관여한 샌프란시스코 추돌 사고가 그 대표적인 예입니다.

보행자를 치고 난 후, 해당 차량은 인간 운전자라면 즉각 정차하여 상황을 파악했을 법한 행동을 취하지 못했습니다. 이러한 인간적 판단력을 재현하지 못하는 능력은 더 광범위한 영향을 미칩니다. 이는 AI가 운전뿐만 아니라 실시간 의사결정이 중요한 모든 분야에서 아직 갈 길이 멀다는 것을 보여줍니다.

예를 들어 AI 기반 챗봇은 뉘앙스와 문맥을 다루는 데 어려움을 겪으며, 종종 의미 없거나 심지어 해로운 응답을 생성합니다. 마크 저커버그의 AI 캐릭터들은 사용자를 자신의 소셜 미디어 플랫폼에 더 오래 머물게 하기 위해 설계되었지만 또 다른 예시입니다.

이러한 가상 캐릭터들은 재미있을 수 있지만, 실제 인간 상호작용을 대체하지는 않습니다. 오히려 사용자를 인공적인 환경으로 더 깊이 밀어넣으며, AI가 사회에 미치는 장기적인 영향에 대한 의문을 제기합니다.

자율주행차의 실패는 AI 투자자들에게 경고가 되어야 합니다. 통제된 환경에서는 인상적인 이 기술도 현실 세계에서는 무너집니다.