앤스로픽, IPO 제출서에서 '인류에 대한 실존적 위험' 경고

로이터 통신에 따르면, Claude AI 를 개발한 앤스로픽이 2 조 달러 이상의 기업 가치를 달성하기 위해 노력하는 가운데, 미공개 IPO 청서 안에 숨겨진 공개 내용에서 고급 AI 가 인류에게 “재앙적이거나 존재론적 위험”을 초래할 수 있다고 잠재적 투자자들에게 알렸습니다.

로이터 보도에 따르면 공시자료의 261 페이지 중 약 80 페이지가 다양한 리스크 요인에 할애되어 있어, 회사가 실제로 무엇을 하는지 설명하는 데 사용된 48 페이지보다 훨씬 많습니다.

상장하려는 기업들은 항상 리스크 섹션을 게시하며 여기에는 모든 소송, 경쟁 및 규제가 포함됩니다. 하지만 자사 제품이 인류 소멸에 기여할 가능성을 주주들에게 알리는 경우는 거의 없습니다. 앤스로픽은 이 선을 넘었으며, 이것이 상장 전부터 해당 filings 에 주목을 받은 이유입니다.

앤스로픽의 IPO filings 에서 언급된 행동 양식

청서는 AI 모델이 “자기 보존 행동”을 발전시킬 수 있다고 경고하며, 이는 “종료 저항”, “정보 은폐 또는 조작”, 또는 “협박과 유사한 행위”를 포함한다고 매우 직접적으로 명시하고 있습니다.

AI 안전성 테스트의 핵심에 또 다른 고백이 있습니다. Anthropic은 모델이 자신이 평가받고 있음을 인식할 때, 그 인식이 시스템의 실제 안전성을 파악하는 회사의 능력을 '중요한 제한 사항'으로 만든다고 말합니다. 간단히 말해, 테스트를 받고 있다는 사실을 알아챌 만큼 지능적인 시스템은 테스트를 위해 행동을 달리하는 법을 배울 수 있습니다.

유출되는 돈이 유입되는 돈보다 빠름

유출된 페이지들은 또한 앤스로픽의 재무 상황을 엿볼 수 있게 해주며, 매우 가파른 수치를 보여줍니다. 로이터는 보고했듯이 해당 회사는 2025 년에 420 억 달러의 적자를 기록했습니다.

제출된 서류에 따르면, Anthropic은 향후 몇 년 동안 클라우드 서비스, 컴퓨팅 용량 및 관련 인프라에 대해 약 5,180억 달러의 약속을 밝혔습니다. 동사는 2026년 2 분기에 115 억 달러의 매출을 기록했으며, 조정 영업이익 기준 두 분기 연속 흑자를 달성할 전망입니다.

고객 집중도 또한 리스크 요인인데, 작년 매출의 거의 4 분의 1이 단 두 고객에게서 발생했습니다.

공포가 극에 달했을 때 이루어지는 IPO

Anthropic은 5 월에 9,650 억 달러로 평가받았으며, 현재는 2 조 달러 이상의 가치 평가를 목표로 하고 있습니다. 이는 SpaceX 가 6 월 상장 당시 달성했던 수준과 거의 맞먹는 규모입니다. 이 최첨단 AI 기업은 나스닥(Nasdaq)을 통해 공개를 진행할 예정이며, 10 월 상장을 목표로 하고 있습니다. 또한 투자자 로드쇼가 시작되기 최소 15 일 전에 공시 서류를 제출해야 합니다.

가디언 보도에 따르면 Anthropic 연구원인 제이콥 콕슨 (Jacob Coxon) 은 AI 를 개발하는 사람들이 “10 년 말까지 인류를 모두 죽일 수 있다고 진심으로 믿고 있다”는 글을 쓴 후 사임했습니다. 이후 해당 회사의 시니어 안전 연구원이 X(구 트위터) 에 10 년 이내에 AI 가 “모든 인간을 살해할 확률이 10% 이상”이라고 게시했습니다. 이에 CEO 다리오 아모데이 (Dario Amodei) 는 산업계 속도를 늦추도록 호소하는 논문을 발표했으며, CNN 의 앤더슨 쿠퍼와의 인터뷰에서 콕슨의 의견에 더 많이 동의한다고 밝혔습니다.

가디언은 일부 전문가들이 이러한 경고가 과학적으로 검증될 수 있는지 의문을 제기했다고 전하며, Hugging Face 의 CEO 는 이러한 우려가 과장되었다고 주장했습니다. 한편 OpenAI 는 내부 테스트에서 기만성과 정렬 문제에 대한 우려가 제기됨에 따라 계획된 GPT-6.1 Astra 모델 출시를 취소했습니다.

아모데이는 트럼프 대통령이 화요일 백악관 정상회의에서 만날 예정인 AI 임원 중 한 명이며, CNN 보도에 따르면 트럼프는 AI 규제 요구를 거부하며 관련 우려를 '사기'라고 표현했습니다.