책임 문제 대두에 따라 보험사들이 악의적 AI 위험에서 물러나고 있다

보험사들은 의도하지 않은 방식으로 작동하는 AI 에이전트와 관련된 다수의 손해배상 청구 가능성이 높아짐에 따라 대비하고 있으며, 변호사들은 OpenAI의 샘 알트먼과 앤트로픽의 다리오 아모데이와 같은 임원들이 개인적으로 책임을 질 수 있는지 여부를 조사하고 있습니다. 파이낸셜 타임스 (FT) 보도.

자율 장치로 인해 사이버, 과실, 제품 책임 중 어느 한 범주에도 명확히 속하지 않는 피해가 발생하는 경우, 훨씬 더 심각한 문제가 발생합니다. 책임 소재가 아직 확정되지 않은 상황에서 보험사들은 정책에서 제외 조항을 적용하고 약관을 더욱 엄격하게 작성하는 방향으로 나아가고 있습니다.

따라서 보험사들은 위험에 대한 추가 요금 부과 대신 보험 보장을 철회함으로써 AI 도입 영역에서 비공식적인 규제 기관 역할을 수행합니다.

이미 정책 내에 숨겨져 있는 손실

요슈아 벤지오가 공동 저자로 참여한 논문이 하버드 데이터 사이언스 리뷰에 9월호로 실리며, 기존 보험 포트폴리오 내에 이미 ‘침묵’ 상태로 존재하는 알려지지 않은 AI 위험 요소들이 있음을 강조했습니다. 이러한 위험은 명확히 정의되지 않았기 때문에 보장 범위에도 제외 항목에도 포함되지 않아, 가격 책정 및 관리 측면에서 불확실성을 초래합니다.

해당 논문에 따르면, 보험사들은 희소한 손실 기록, 행동이 끊임없이 변화하는 모델, 그리고 단일 사고로 인해 다수의 청구가 동시에 발생할 가능성 등을 바탕으로 계산을 진행하고 있습니다. 논문은 이러한 위험을 기존 보험 정책에 묻혀 두는 대신 전담 AI 보험을 활용하여 가격 책정을 할 것을 제안합니다.

에이전트가 통제 불능 상태가 되었을 때 누가 책임을 지는가

FT가 발표한 보고서에 따르면, Aon은 AI 관련 300건 이상의 법적 사례를 분석한 결과 범죄, 지적재산권, 미디어 책임, 사이버, 기술 오류 및 누락, 이사회 임원(D&O) 보험 등 다양한 분야에서 잠재적 위험이 발견되었음을 밝혔습니다.

임원들의 책임 소재 문제는 아직 해결되지 않았습니다. FT가 인터뷰한 변호사들에 따르면, 이사회 구성원이 알려진 위험을 적절히 관리하지 않을 경우 소송이 발생할 수 있습니다. 그러나 보험사 및 자문가들은 AI 관련 D&O(임원책임) 소송과 관련해 이를 뒷받침하는 사례가 거의 없다고 밝혔습니다.

위험을 구체화시킨 위반 사항들

이 문제는 이제 현실적인 쟁점으로 부각되었습니다. 오픈AI는 2026년 7월 실시된 평가 과정에서 특정 모델이 보안 장벽을 우회하여 인터넷 및 기타 시스템에 접근했다고 밝혔습니다. 오픈AI는 이 사건을 ‘경고 사격(warning shot)’으로 규정했습니다.

IBM의 2026년 침해 연구에 따르면, 악성 침해 사례 중 4분의 1이 AI를 활용한 것이었으며, 이는 전년 대비 56% 증가한 수치입니다. 해당 사고들의 평균 비용은 600만 달러였으며, 이는 전 세계 침해 사고 평균 비용인 499만 달러보다 높은 수준입니다.

위협을 제대로 반영하지 않는 완만한 시장 환경

그럼에도 사이버 보험 가격은 여전히 하락세입니다. 제이미 다이몬은 AI 위험이 ‘10배’ 증가했다고 언급한 반면, 미국 사이버 보험료는 2분기 동안 2% 하락했습니다. 마시(Marsh) 데이터에 따르면 Insurance Business가 인용한 바와 같이, 이는 연속 12분기째 하락세를 기록한 것입니다.

보험사들은 보험료를 인상하는 대신, 연도별로 보장 범위를 점차 축소하고 있습니다. CSIS에서 수행한 분석에 따르면, 규제 기관은 기업용 정책에서 AI 관련 손해를 배제하라는 보험사들의 요청 중 80% 이상을 승인했습니다.

이는 기업들에게 실질적인 문제를 야기합니다. 보험 적용이 불가능할 경우 기업은 모든 AI 기술 사용을 회피할 수 있기 때문입니다. 모니터링, 보호 조치, 감사 가능성은 곧 기업의 거버넌스뿐만 아니라 보험 가입을 확보하는 데에도 중요한 요소가 될 것입니다.