연방 기관들이 백악관의 갈등 완화와 함께 앤트로픽 마이토스(Mythos)를 줄지어 채택

미 연방 정부가 마이토스 모델의 버전을 주요 기관에 제공하기 위한 접근 권한 부여를 준비하면서, 앤트로픽은 연방 rollout(도입)에 한 발 더 다가섰습니다.

블룸버그는 목요일 이 계획이 진행 중이라고 보도했으며, 워싱턴 내부와 외부의 관리자들은 이 도구가 엄격하게 통제되지 않을 경우 사이버 보안 위험을 초래할 수 있다는 우려를 나타냈습니다.

크립토폴리탄은 이전에 마이토스가 제한된 그룹에게만 제한적으로 제공되며, 광범위한 상업적 용도가 아닌 방어적 사이버 작업을 위해 의도되었다고 보도했습니다. 백악관 관리예산실(OMB)의 연방 최고 정보 책임자 그레고리 바르바치아는 화요일 이메일을 통해 OMB가 기관들이 마이토스를 사용할 수 있도록 보호 장치를 마련 중이라고 각 성부 장관들에게 알렸습니다. 

보고서에 따르면 해당 메시지의 제목은 '마이토스 모델 접근 권한'이었고, 내용은 다음과 같았습니다.

"우리는 수정된 버전의 모델을 기관에 출시하기 전에 적절한 가드레일과 안전 장치가 갖춰지도록 모델 제공업체, 기타 산업 파트너 및 정보 커뮤니티와 긴밀히 협력하고 있습니다."

백악관이 문을 열며 앤트로픽 마이토스가 기관 사용으로 향함

이 메시지가 도착한 시점은 재무장관, 중앙은행 총재 및 규제당국자들이 IMF와 세계은행의 봄 연차총회에 참석하기 위해 워싱턴에 모인 시기였습니다. 이 자리에서 고위 금융 당국자들은 미국 기술 기업들의 고급 AI가 대출 기관들의 사이버 방어 체계의 약점을 노출시키고 더 넓은 은행 시스템에 압박을 가할 수 있다고 경고했습니다.

영국 중앙은행 총사이자 금융안정위원회(FSB) 의장인 앤드루 베일리는 "이는 우리 모두에게 매우 심각한 도전입니다. AI 세계가 얼마나 빠르게 변화하는지 우리에게 일깨워줍니다."라고 말했습니다.

앤드루는 이어 전 세계 규제당국들이 앤트로픽의 클로드 마이토스 프레스뷰(Claude Mythos Preview)가 금융 시스템에 미칠 수 있는 사이버 위험을 신속하게 평가해야 할 것이라고 말했습니다.

IMF 부총재 댄 카츠는 "디지털 기술의 진화는 사이버 보안 관점에서 엄청난 위험을 초래하고 있습니다. 이는 향후 몇 달간 국제 의제에서 절대적으로 필수적인 과제가 될 것입니다."라고 말했습니다.

유럽중앙은행(ECB) 총장인 크리스틴 라가르드 또한 앤트로픽과 마이토스를 유용한 도구가 잘못된 손에 넘어갈 경우 위험해질 수 있는 사례로 지적했습니다.

"우리가 앤트로픽과 마이토스에서 본 발전은 갑자기 '아, 이건 정말 좋을 수 있겠군'이라고 생각할 수 있는 책임감 있는 기업의 좋은 예시입니다. 하지만 이것이 잘못된 손에 넘어간다면 정말 나쁜 결과를 초래할 수 있습니다."

전 세계 관리들이 규제를 촉구하는 가운데 앤트로픽은 오푸스 4.7 제한

앤트로픽이 이달 초 마이토스가 "모든 주요 운영 체제와 웹 브라우저의 일부에서 수천 건의 고위험 취약점을 발견했다"고 발표하자, 일부 관리들은 조정된 국제적 대응을 촉구했습니다.

앤트로픽은 또한 이러한 기능이 빠르게 확산되어 안전한 손에 머물지 않을 수 있다고 경고했습니다. 동사는 "이러한 기능이 확산되어 안전하게 배포하기로 약속한 행위자들을 넘어설 가능성이 매우 짧을 것"이라고 밝혔습니다. 또한 "경제, 공공 안전 및 국가 안보에 대한 여파는 심각할 수 있다"고 덧붙였습니다.

크리스틴은 나중에 기자들에게 관리들이 작업할 수 있는 프레임워크를 원하지만 아직 진정한 거버넌스 시스템은 준비되지 않았다고 말했습니다. 그녀는 "모든 사람이 운영할 수 있는 프레임워크를 가지고 싶어 합니다. 실제로 그런 것들을 관리하기 위한 거버넌스 프레임워크가 있다고는 생각하지 않습니다. 우리가 그 부분을 작업해야 합니다."라고 말했습니다.

앤트로픽의 영국, 아일랜드 및 북유럽 책임자 피프 화이트는 모델 관련 뉴스 이후 임원들의 관심이 빠르게 높아졌다고 말했습니다. 인터뷰에서 피프는 "우리는 이 제품의 강력한 힘을 알고 있으므로 자체적인 안전 장치와 제한 사항을 이 제품에 적용하고 있습니다."라고 말했습니다.

목요일, 앤트로픽은 소프트웨어 엔지니어링 작업에서 더 나은 성능을 발휘하도록 설계된 새로운 모델인 오푸스 4.7도 출시했습니다. 동사는 오푸스 4.7이 이전에 더 많은 감독이 필요했던 일부 코딩 작업을 처리할 수 있으며, 이전 모델보다 지시를 더 잘 따르고 더 높은 해상도의 이미지를 검사하여 밀집된 차트와 복잡한 그림의 세부 사항을 포착할 수 있다고 말했습니다.

그럼에도 불구하고 앤트로픽은 오푸스 4.7이 사이버 사용 사례를 포함한 마이토스보다 능력이 부족하다고 밝혔습니다. 동사는 훈련 과정에서 모델의 사이버 능력을 "차등적으로 감소"시키는 방법을 테스트했다고 말했습니다.