출처: Pexels미국 정부가 주요 기관에 자사의 Mythos 모델 버전에 대한 접근 권한을 부여하기 위한 준비를 시작함에 따라 Anthropic은 연방 차원의 출시를 앞두고 있습니다.
블룸버그는 목요일, 워싱턴 안팎의 관계자들이 해당 도구가 엄격하게 통제되지 않으면 사이버 보안 위험을 높일 수 있다고 우려하는 가운데, 이 계획이 현재 진행 중이라고 보도했습니다.
Cryptopolitan 앞서 마이토스가 특정 그룹으로 제한되어 있으며 광범위한 상업적 용도가 아닌 사이버 방어 목적으로 개발되었다고 보도했습니다. 백악관 예산관리국(OMB)의 연방 최고정보책임자(CIO)인 그레고리 바르바치아는 화요일 각 부처 관계자들에게 보낸 이메일에서 OMB가 정부 기관들이 마이토스를 사용할 수 있도록 보호 조치를 마련하고 있다고 밝혔습니다.
전해지는 바에 따르면, 해당 메시지의 제목은 "미토스 모델 접근"이었고, 내용은 다음과 같았습니다
"저희는 모델 제공업체, 기타 업계 파트너, 그리고 정보기관과 긴밀히 협력하여 수정된 모델의 버전을 기관에 공개하기 전에 적절한 안전장치와 보호 조치가 마련되도록 노력하고 있습니다."
백악관, 인류생명론의 정부기관 활용 가능성에 문을 열다
이러한 메시지는 재무장관, 중앙은행 총재, 규제 당국자들이 IMF와 세계은행의 춘계 회의 참석차 워싱턴에 모여 있던 시기에 전달되었는데, 당시 고위 금융 관계자들은 미국 기술 기업의 첨단 인공지능(AI)이 금융기관의 사이버 방어 체계의 취약점을 드러내고 더 넓은 은행 시스템에 압력을 가할 수 있다고 경고했습니다.
앤드류 베일리 영국 중앙은행 총재 겸 금융안정위원회 위원장은 "이는 우리 모두에게 매우 심각한 과제입니다. 인공지능 세계가 얼마나 빠르게 변화하는지 다시 한번 상기시켜 줍니다."라고 말했습니다
앤드루는 이어서 전 세계 규제 당국이 앤트로픽의 클로드 미토스 프리뷰가 금융 시스템에 미칠 수 있는 사이버 위험을 신속하게 평가해야 할 것이라고 말했습니다.
댄 카츠 IMF 부총재는 "디지털 기술의 발전은 사이버 보안 관점에서 엄청난 위험을 초래하고 있다. 이는 향후 몇 달 동안 국제적인 의제에서 절대적으로 중요한 부분이 될 것"이라고 말했다
유럽중앙은행dent 인 크리스틴 라가르드는 인류학 및 신화 이론을 예로 들며 유용한 도구가 잘못된 사람의 손에 들어가면 위험해질 수 있다고 지적했습니다.
"앤트로픽과 미토스의 사례에서 볼 수 있듯이, 책임감 있는 기업이 갑자기 '아, 이건 정말 좋은 아이디어일 수 있겠는데?'라고 생각하게 된 좋은 예입니다. 하지만 만약 잘못된 사람의 손에 들어가면 정말 나쁜 결과를 초래할 수도 있습니다."
국제기구 관계자들이 규정 마련을 압박하는 가운데, 앤트로픽은 오푸스 4.7 프로젝트에 대한 제한을 두고 있다
일부 관계자들은 앤트로픽이 이달 초 마이토스(Mythos)를 통해 "모든 주요 운영 체제와 웹 브라우저에서 발견된 취약점을 포함하여 수천 건의 심각한 취약점"을 발견했다고 발표한 후 국제적인 공동 대응을 촉구했습니다
앤트로픽은 이러한 기술들이 빠르게 확산되어 안전한 손에 남아있지 않을 수 있다고 경고했습니다. 회사는 "이러한 기술들이 안전하게 배포할 의지가 있는 주체들을 넘어 확산되는 것은 시간 문제"라며, "경제, 공공 안전, 국가 안보에 심각한 파장이 미칠 수 있다"고 덧붙였습니다
크리스틴은 이후 기자들에게 관계자들이 업무를 수행할 수 있는 틀을 원하지만, 아직 제대로 된 관리 체계는 마련되지 않았다고 말했습니다. 그녀는 "모두가 업무를 수행할 수 있는 틀을 간절히 바라고 있습니다. 하지만 이러한 사항들을 제대로 고려할 수 있는 관리 체계는 아직 없다고 생각합니다. 우리는 이 부분을 개선해야 합니다."라고 덧붙였습니다
앤트로픽의 영국, 아일랜드, 북유럽 지역 책임자인 핍 화이트는 해당 모델에 대한 소식이 전해진 후 임원들의 관심이 빠르게 높아졌다고 밝혔습니다. 그는 인터뷰에서 "우리는 이 제품이 얼마나 강력한 잠재력을 가지고 있는지 알고 있기 때문에 자체적인 안전장치와 제한을 두고 있습니다."라고 말했습니다
목요일, 앤트로픽은 소프트웨어 엔지니어링 작업을 더욱 효율적으로 수행하도록 설계된 새로운 모델인 오푸스 4.7을 출시했습니다. 회사 측은 오푸스 4.7이 기존에는 더욱 면밀한 감독이 필요했던 코딩 작업을 처리할 수 있고, 이전 모델보다 지시 사항을 더 잘 따르며, 고해상도 이미지를 검사하여 복잡한 도표와 그림 속 세부 사항까지 포착할 수 있다고 밝혔습니다.
그럼에도 불구하고, 앤트로픽은 오푸스 4.7이 사이버 공격 사례를 포함한 여러 측면에서 미토스보다 성능이 떨어진다고 밝혔습니다. 회사 측은 훈련 과정에서 모델의 사이버 공격 능력을 "차등적으로 낮추는" 방법을 테스트했다고 설명했습니다.
