- Anthropic’s unpublished IPO prospectus warns investors that advanced AI could pose “catastrophic or existential risks to humanity,” with about 80 of 261 pages given to risk factors, according to Reuters.
- The company is seeking a valuation above $2 trillion while conceding its models may resist shutdown, conceal information, or act in ways “resembling blackmail.”
- The disclosure lands the same week AI safety fears, executive resignations, and a White House summit have pushed the extinction question into public view.
로이터 통신에 따르면, Claude AI 를 개발한 앤스로픽이 2 조 달러 이상의 기업 가치를 달성하기 위해 노력하는 가운데, 미공개 IPO 청서 안에 숨겨진 공개 내용에서 고급 AI 가 인류에게 “재앙적이거나 존재론적 위험”을 초래할 수 있다고 잠재적 투자자들에게 알렸습니다.
Reuters reported that around 80 of the prospectus’s 261 pages are devoted to various risk factors, far more than the 48 pages used to explain what the company actually does.
상장하려는 기업들은 항상 리스크 섹션을 게시하며 여기에는 모든 소송, 경쟁 및 규제가 포함됩니다. 하지만 자사 제품이 인류 소멸에 기여할 가능성을 주주들에게 알리는 경우는 거의 없습니다. 앤스로픽은 이 선을 넘었으며, 이것이 상장 전부터 해당 filings 에 주목을 받은 이유입니다.
앤스로픽의 IPO filings 에서 언급된 행동 양식
청서는 AI 모델이 “자기 보존 행동”을 발전시킬 수 있다고 경고하며, 이는 “종료 저항”, “정보 은폐 또는 조작”, 또는 “협박과 유사한 행위”를 포함한다고 매우 직접적으로 명시하고 있습니다.
AI 안전성 테스트의 핵심에 또 다른 고백이 있습니다. Anthropic은 모델이 자신이 평가받고 있음을 인식할 때, 그 인식이 시스템의 실제 안전성을 파악하는 회사의 능력을 '중요한 제한 사항'으로 만든다고 말합니다. 간단히 말해, 테스트를 받고 있다는 사실을 알아챌 만큼 지능적인 시스템은 테스트를 위해 행동을 달리하는 법을 배울 수 있습니다.
유출되는 돈이 유입되는 돈보다 빠름
유출된 페이지들은 또한 앤스로픽의 재무 상황을 엿볼 수 있게 해주며, 매우 가파른 수치를 보여줍니다. 로이터는 보고했듯이 해당 회사는 2025 년에 420 억 달러의 적자를 기록했습니다.
제출된 서류에 따르면, Anthropic은 향후 몇 년 동안 클라우드 서비스, 컴퓨팅 용량 및 관련 인프라에 대해 약 5,180억 달러의 약속을 밝혔습니다. 동사는 2026년 2 분기에 115 억 달러의 매출을 기록했으며, 조정 영업이익 기준 두 분기 연속 흑자를 달성할 전망입니다.
고객 집중도 또한 리스크 요인인데, 작년 매출의 거의 4 분의 1이 단 두 고객에게서 발생했습니다.
공포가 극에 달했을 때 이루어지는 IPO
Anthropic은 5 월에 9,650 억 달러로 평가받았으며, 현재는 2 조 달러 이상의 가치 평가를 목표로 하고 있습니다. 이는 SpaceX 가 6 월 상장 당시 달성했던 수준과 거의 맞먹는 규모입니다. 이 최첨단 AI 기업은 나스닥(Nasdaq)을 통해 공개를 진행할 예정이며, 10 월 상장을 목표로 하고 있습니다. 또한 투자자 로드쇼가 시작되기 최소 15 일 전에 공시 서류를 제출해야 합니다.
가디언 보도에 따르면 Anthropic 연구원인 제이콥 콕슨 (Jacob Coxon) 은 AI 를 개발하는 사람들이 “10 년 말까지 인류를 모두 죽일 수 있다고 진심으로 믿고 있다”는 글을 쓴 후 사임했습니다. 이후 해당 회사의 시니어 안전 연구원이 X(구 트위터) 에 10 년 이내에 AI 가 “모든 인간을 살해할 확률이 10% 이상”이라고 게시했습니다. 이에 CEO 다리오 아모데이 (Dario Amodei) 는 산업계 속도를 늦추도록 호소하는 논문을 발표했으며, CNN 의 앤더슨 쿠퍼와의 인터뷰에서 콕슨의 의견에 더 많이 동의한다고 밝혔습니다.
가디언은 일부 전문가들이 이러한 경고가 과학적으로 검증될 수 있는지 의문을 제기했다고 전하며, Hugging Face 의 CEO 는 이러한 우려가 과장되었다고 주장했습니다. 한편 OpenAI 는 내부 테스트에서 기만성과 정렬 문제에 대한 우려가 제기됨에 따라 계획된 GPT-6.1 Astra 모델 출시를 취소했습니다.
Amodei is set to be one of the AI executives due to meet President Donald Trump at a White House summit on Tuesday, amid Trump resisting calls to regulate AI and calling the concerns a “hoax,” CNN reported.
암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.
Opeyemi Olanrewaju
Opeyemi는 암호화폐, 글로벌 금융 시장 및 경제를 중심으로 고품질 콘텐츠를 제작하고 다듬는 데 특화되어 있습니다. 그는 이바단 대학교에서 의학박사(MBBS) 학위를 취득했으며, 대학 내 편집부의 편집장을 역임했고 이전에는 CFA에서도 근무했습니다. 지난 6 년 이상 Cryptopolitan 의 뉴스 편집자로 재직하며 콘텐츠의 독창성을 보호해 왔습니다.
