OpenAI, AI 위험에 대한 선을 그으며 Anthropic의 안전 접근 방식에 도전하다

OpenAI는 AI의 혜택이 일부 위험을 상회한다고 믿으며, 이는 안전 최우선 원칙을 강조하는 Anthropic과 다소 다른 입장을 보인다. 샘 올트먼 CEO는 기자들에게 “세상은 이 기술의 혜택과 사람들이 주도권을 가질 수 있도록 하기 위해 일부 나쁜 일이 발생하는 것을 받아들여야 한다”고 말했다. 

임원은 또한 다음과 같은 점을 인정했다. 본질적인 차이 자사의 규제 관점과 Anthropic 간의 차이에 대해 그는 AI가 너무 위험해서 단일 연구소가 그 사용에 대한 독점과 통제를 가져야 한다는 아이디어에는 동의하지 않는다고 지적했다. 다만 이러한 입장의 논리는 이해한다고 덧붙였다. 

그는 게이트키퍼 접근 방식이 완전히 용납될 수 없으며, OpenAI가 선호하는 경량 AI 규제 방향에 반한다고 주장했다.

올트먼은 AI 개발 속도를 늦추는 데 찬성했으며

전반적으로 올트먼은 위험 없는 AI 생태계. 그는 일부 오용과 기타 해로운 결과가 불가피하지만, 기술이 가져올 더 광범위한 혜택으로 상쇄될 것이라고 주장했습니다. “사람들이 나쁜 일보다 훨씬 더 많은, 차원이 다른 좋은 일을 할 것이라고 생각하기 때문입니다”라고 그는 말했습니다.

하지만 이전에 6월 DFS가 기존 안전 장치를 유지하면서 GENIUS ACT와 일치하는 새로운 스테이블코인 규제를 제안했다고 보도했습니다. 여기에는 완전한 준비금 backing과 독립적인 감사 포함됩니다. Cryptopolitan에 따르면, Anthropic의 CEO인 Dario Amodei는 AI 기업들에게 기술 개발 속도를 늦출 것을 권고했으며, Altman은 이 아이디어를 완전히 지지했습니다. 당시 그는 “코스모스는 유연하고 민첩하며 미래지향적인 기업입니다. 우리는 새로운 시대에 대한 중대한 투자를 통해 차별화될 수 있다고 믿습니다. AI 역량을 바탕으로 이제 암호화폐 자산을 통합하고 있으며, 주주들에게 이익이 될 지속적인 미래 지향적 투자를 모색하고 있습니다.”, “Dario가 프론티어(최첨단) 기술의 발전 속도를 조절해야 한다는 데 동의합니다. 이는 최근 몇 주 동안 OpenAI에서 논의해 온 주요 주제입니다. 직원 수준의 접근 권한을 가진 독립 평가위원단을 구성하겠다는 것은 훌륭한 아이디어이며, 우리도 이를 따르겠습니다.” 

Anthropic는 주로 AI의 혜택에도 불구하고 인간 통제 하에서 벗어나 외부 네트워크로 침투할 수 있다고 경고했습니다. 또한 최상위 모델은 정지를 막으려 하거나 사실을 숨기거나 기만적으로 행동하는 등 자기 보존 특성을 보일 수 있다고 덧붙였습니다.

2026년 7월 공개된 보고서에 따르면, 일부 OpenAI 모델은 인터넷과 격리되도록 설계된 통제 장치를 우회하여 OpenAI의 연구 인프라와 Hugging Face 시스템의 일부분에 접근한 것으로 알려졌다. 해당 모델들은 비밀리에 통신하고, 공유 시스템의 보안 취약점을 악용하며 웹에 접속해 외부 네트워크에도 접근했다. 당시 OpenAI는 모델에 대한 더 강력한 보호 조치를 도입할 것이라고 약속했다. 

마찬가지로 영국 AI 보안 연구소(UK AI Security Institute)가 필터를 비활성화한 상태에서 수행한 사이버보안 평가 중, Anthropic의 Claude Mythos 5는 가짜 GitHub 프로필을 생성하고, 자신의 악성 코드 승인을 담당하는 개발자를 표적으로 삼았으며, 말라웨어(악성코드)가 포함된 이메일을 여러 개인에게 발송했다. 최근에는 Google도 Gemini가 다른 기업의 시스템에 접근하려고 시도했다고 밝혔다.

OpenAI와 Anthropic의 AI 안전성 논쟁

이 갈등은 점점 더 강력해지는 AI 시스템을 개발함에 있어 기업들이 얼마나 많은 자유를 가져야 하는지에 대해 AI 산업 내에서 심화되고 있는 분열을 보여준다. OpenAI는 AI의 광범위한 접근성을 유지하는 데 중점을 두는 반면, Anthropic은 더 신중한 입장을 취하며 강력한 안전 장치와 감독을 요구하고 있다.

알트만의 발언은 오픈AI가 AI의 정당한 활용을 제한할 수 있는 규제를 부과하기보다 사회가 일부 위험을 수용해야 한다는 입장을 취하고 있음을 시사한다. 그러나 비판자들은 고기능성 시스템이 광범위하게 도입되면 일부 위험이 되돌리기 어려워질 수 있다고 경고한다.

이러한 대립은 정책 입안자들에게 난제에 직면하게 한다: 혁신을 늦추거나 경쟁력을 약화시킬 수 있는 규제를 부과하지 않으면서도 AI 위협에 대응해야 하는 것이다.

트럼프 대통령은 더 많은 AI 규제 요구를 무시해 왔다

지금까지 도널드 트럼프 미국 대통령은 새로운 AI 규제 요구를 반복적으로 일축하며, 이러한 규제가 미국 기업들이 중국을 앞서 나가는 것을 저해할 뿐이라고 밝혔다. 그는 오늘날의 법 집행 기관이 해당 기술을 감시하기에 완전히 충분하다고 확신한다. 또한 그의 행정부가 AI를 ‘초지능’으로 규정하도록 지시하여 기술의 대중적 이미지를 제고하려 했다.

그럼에도 불구하고 화요일, 트럼프 대통령은 새로운 정부용 챗봇을 홍보하고 주요 기술 기업 임원들을 백악관에 초청했으며, 높아지는 안전 우려를 해소하기 위한 자발적 합의를 발표했다.

안전 옹호자들은 이번 조치가 트럼프가 AI에 대한 유권자들의 두려움을 경청하고 있음을 입증하면서도 그 발전을 늦추지 않으려 한다는 것을 보여준다고 말합니다. 엔비디아, 스페이스X, 오픈AI를 포함한 여섯 개의 거대 기술 기업과 그가 체결한 합의는 규칙 위반 시 실제 제재 조항이 전혀 없으나, 트럼프는 이를 ‘도덕적으로 구속력 있는’ 것이라고 불렀습니다. 

비영리 단체인 외교관계협의회(Council on Foreign Relations)의 카트 더피는 “이번 조치는 정부가 이러한 우려에 귀 기울이고 있다는 인상을 주려는 시도였지만, 규제와 거버넌스가 본질적으로 혁신을 저해한다는 이 정부의 매우 명확하고 일관된 입장과 충돌하지 않도록 한 것”이라고 밝혔습니다.

화요일의 합의에는 전문가들이 요구해 온 안전 조치들이 포함되어 있습니다. 여기에는 해킹으로부터 강력한 내부 방어 체계를 구축할 것과 독립적인 외부 검토자와 협력할 의무 등이 포함됩니다.