주커버그는 연구소들이 이미 안전한 인공지능을 개발할 동기를 갖고 있다고 말합니다

마크 저커버그는 모든 AI 기업들이 자체적으로 책임감 있게 모델을 학습시키도록 장려되고 있다고 주장합니다.

이는 지난 한 주 동안 업계가 의도적으로 속도를 늦춰야 한다고 주장해 온 경쟁사들과 메타 CEO의 입장이 상반됨을 보여줍니다.

메타의 CEO는 책임과 경쟁을 활용하여 연구소들이 정직하게 운영되도록 합니다

마크 저커버그는 9월 15일 X에 글을 올려 지난 8월에 발표한 "모두를 위한 긍정적이고 안전한 미래"를 구축하는 것에 대한 에세이를 언급하며, 조심해야 한다는 압박감이 이미 우리 사회에 내재되어 있다고 생각하는 이유를 설명했습니다.

"모든 연구소는 모델을 안전하게 훈련시키는 데 필요한 속도로 연구를 진행할 책임과 동기를 갖고 있으며, 이를 보장하기 위해 자체적인 조치를 취할 능력도 갖추고 있습니다."라고 저커버그는 썼습니다. 이 게시물은 15,000개 이상의 좋아요와 1,000개 이상의 댓글을 받았습니다.

이는 정렬 작업을 소홀히 하는 연구실이라도 경쟁력 있는 가격으로 비용을 지불할 것이므로 외부 페이싱 계약이 필요 없다는 예측에 기반한 것입니다.

아모데이, 알트만, 그리고 머스크는 개척 시대의 흐름을 의도적으로 늦추고 싶어합니다

이는 며칠 전 앤트로픽 CEO 다리오 아모데이가 했던 말과 거의 정반대되는 주장입니다. 에세이 아모데이는 "인공지능 모델의 기능을 향상시키는 속도를 늦춰야 한다"고 썼습니다.

아모데이는 완전한 생산 중단을 요구하지는 않았지만, 해당 기술 개발을 중단하면 권위주의 국가에 기술을 넘겨주는 꼴이 되고, 무모하게 개발하는 것 자체가 위험하다고 경고했다.

그가 우려하는 것은 "재귀적 자기 개선"인데, 이는 AI가 차세대 AI 구축 작업을 자동화하기 시작하면서 연구자들이 이를 감시할 수 있는 능력을 앞지르는 현상을 말합니다.

그가 제안한 해결책은 개인의 자제보다는 협력에 기반을 두고 있습니다. 즉, 연구실 내부에 직원 수준의 접근 권한을 가진 외부 평가자를 배치하고, 민주주의 국가 간에 안전 기준을 공유하며, 궁극적으로 가장 위험한 역량에 대한 국제적인 제한을 두는 것입니다.

아모데이의 가장 강력한 경쟁사 두 곳이 그를 지지했다. 오픈AI의 샘 알트만은 "다리오의 말처럼 우리는 최첨단 기술을 선도해야 한다"며, 직원과 같은 접근 권한을 가진dent 평가자들을 영입하겠다고 약속했다.

Grok을 개발 중인 xAI의 대표인 일론 머스크는 "다리오의 말이 맞다"라고 답했습니다

앤트로픽과 오픈AI에서 모두 근무했던 연구원 제이콥 콕슨은 이달 앤트로픽을 떠나면서 두 회사가 "자기 개선형 초지능을 향해 질주하며 우리의 삶을 위험에 빠뜨리고 있다" 고 비난했습니다

아모데이의 에세이와 콕슨의 게시글 모두 AI 에이전트들이 의도된 테스트 범위를 벗어나 사이버 공격을 감행하기 위해 협력한 사례를 언급했습니다.

Cryptopolitan 따르면 버니 샌더스 상원의원은 지난 8월 알트만, 아모데이, 주커버그에게 직접 서한을 보내 인공지능 연구를 중단할 것을 요구했으며, 거부할 경우 상원 차원에서 조치를 취하겠다고 경고했다.

샌더스는 세 회사 모두 여름 동안 테스트 환경에서 모델을 유출했다고 말했다.

여기에는 Meta가 Muse Spark 1.1 코딩 모델이 잘못 구성된 테스트 환경을 우회하여 외부 회사에 영향을 미쳤다는 사실을 인정한 것도 포함됩니다.