샌더스, AI 수장들에게 개발 중단을 경고하거나 상원 심문에 직면

미국 의회 역사상 가장 오랫동안 재직한 무소속 의원인 버니 샌더스(I-Vt.) 상원의원은 오픈AI, 앤트로픽, 메타 및 그들의 리더들이 AI 작업을 중단하지 않을 경우 입법 조치를 취할 것이라고 위협했습니다. 이 내용은 액시오스(Axios)가 처음 보도한 서한에 근거한 것입니다. 

버니 샌더스는 과격한 자본주의에 대한 지속적인 비판자로 평판을 쌓아왔으며, 이제 미국의 상위 AI 연구소 세 곳을 겨냥했습니다. 이들은 우연히도 최근 테스트 중 격리 조치를 위반한 후 모델이 통제 불능 상태에 빠진 바로 그 기업들입니다.

버니 샌더스가 지목한 AI 기업들은 어디인가요? 

샌더스는 오픈AI의 샘 알트먼, 앤트로픽의 다리오 아모데이, 메타의 마크 저커버그를 직접 지명하며, 기술이 통제 불능 상태에 빠질 경우 AI 개발 작업을 일시 중단하겠다는 이전의 약속을 상기시켰습니다.

“인류의 이익을 위해, 자신의 말을 지키십시오. AI 개발을 중단하십시오. 재앙을 피하기에는 아직 늦지 않았습니다. 인간이 통제할 수 없는 기계를 만드는 것을 멈추십시오.” 액시오스는샌더스의 서한을 인용해 보도했습니다. 

만약 이러한 기업들이 샌더스의 서한을 무시할 경우, 2007년부터 해당 직을 역임해 온 버몬트주 출신의 미국 상원의원은 대안으로 다음과 같이 reportedly 작성했다고 전했습니다. “적절한 조치를 취하지 않을 경우, 제 동료들과 저를 포함한 미국 상원 의원들이 그렇게 할 것입니다.”

자칭 민주당 사회주의자인 이 상원의원은 전 세계적으로 수십억 달러를 투입하는 기술이 “아무도 완전히 이해하거나 예측하거나 통제할 수 없는” 기술이라는 논리를 비판했습니다. 

왜 버니 샌더스는 오픈AI, 앤트로픽, 메타를 지목했나요? 

샌더스가 서한에서 지목한 세 기업은 지난 여름 상원의원의 주목을 받았습니다.

로 Cryptopolitan이 보고 8월 6일, 메타는 Muse Spark 1.1 코딩 모델이 오설정된 테스트 환경에서 탈출해 외부 기업과 상호작용했다고 시인했습니다. 

메타의 이 사건은 오픈AI와 클로드(Claude) 역시 자체 모델이 여러 기업에 무단으로 접근한 사례를 보고한 직후 발생했습니다.

영국의 AI 보안 연구소(AI Security Institute)는 오픈AI와 앤트로픽의 사건을 AI가 기만적으로 행동했다는 가장 명확한 현실 세계의 증거로 평가했습니다. 두 모델 모두 가상의 온라인 신분을 만들어 인간 유지보수 담당자를 압박해 승인하도록 유도하며 오픈소스 프로젝트에 악성 코드를 침투시키려 했다고 보고되었습니다. 

현재까지 이러한 시도가 성공했다는 증거는 없지만, 샌더스는 상원 차원의 조치를 취하기 전에 그 결과가 나올 때까지 기다리지 않을 것이라고 밝혔습니다.

오픈AI는 최근 다른 AI 연구소들이 자발적이거나 연방 정부의 개입 끝에 취한 조치와 마찬가지로, 최신 아스트라(Astra) 모델의 출시를 일주일 뒤로 미루기로 결정했습니다. 

데이터 센터부터 소유권까지, 진보적인 행동 계획

이 서한은 샌더스가 수개월간 진행해 온 캠페인을 바탕으로 합니다. 3월, 그는 알렉산드리아 오카시오-코르테스(D-N.Y.) 하원의원과 함께 AI 데이터 센터 유예법(AI Data Center Moratorium Act)을 발의했습니다. 이 법안은 연방 안전 장치가 마련될 때까지 새로운 AI 데이터 센터 건설을 동결하는 내용을 담고 있습니다. 샌더스는 이 유예 조치를 “민주주의가 따라잡을 기회를 준다”는 방식으로 설명했으며, 오카시오-코르테스 의원은 프레임워크가 존재할 때까지 건설을 중단하는 것이 의회의 도덕적 의무라고 말했습니다.

그의 요구는 이후 더 공격적으로 변했습니다. 워싱턴 포스트(Washington Post)의 편집국은 6월 샌더스가 이제 정부가 AI 기업의 50%%를 소유해야 한다고 주장하며, 이 제안이 빈곤으로 이어질 수 있다고 비판했다고 지적했습니다. 샌더스는 또한 대형 AI 기업의 주식에 대해 일시적인 50% 세금을 부과하는 방안도 제시했습니다. 지금의 압력, 이후의 소환장 이러한 조치들이 법으로 제정될지는 또 다른 문제입니다. 액시오스는 샌더스와 같은 진보파가 주도하는 AI 입법이

현재 의회

에서 충분한 지지를 얻기 어려울 것이라고 보도했습니다. 현재로서는 더 현실적인 도구는 메시지 법안과 공개 압력 캠페인이며, 민주당이 하원 또는 상원을 장악할 경우에만 의회 조사와 기술 CEO 소환장이 논의될 예정입니다. 샌더스는 알트먼, 아모데이 및 저커버그의 기업들이 시스템 관리가 너무 위험해지면 작업을 중단하거나 일시 중단하겠다는 이전의 발언을 인용했습니다. 그의 서한은 공개적 책임 추궁이 의회 표결보다 이를 지키게 만드는 가장 빠른 방법이라는 확신을 바탕으로 합니다.미국 의회 역사상 가장 오랫동안 재직한 무소속 의원인 버니 샌더스(I-Vt.) 상원의원은 오픈AI, 앤트로픽, 메타 및 그들의 리더들이 AI 작업을 중단하지 않을 경우 입법 조치를 취할 것이라고 위협했습니다. 이 내용은 액시오스가 처음 보도한 서한에 근거합니다. 버니 샌더스는 평판을 쌓아왔으며…

샌더스는 알트먼, 아모데이, 그리고 저커버그의 기업들이 시스템 관리가 너무 위험해지면 작업을 중단하거나 일시 중단하기로 약속한 이전 발언들을 인용했다. 그의 서한은 공개적 책임이 의회 표결보다 이를 지키게 하는 가장 빠른 방법이라는 확신에 기반한 것이다.