인공지능 안전 우려를 '해자'라고 불렀던 FTC 위원장이 현재 오픈AI와 앤스로픽의 안전 문제를 조사하고 있습니다

고위 관계자는 연방거래위원회(FTC)가 오픈AI와 앤스로픽이 개발한 AI 시스템이 미국 소비자에게 위험을 초래할 수 있는지 여부를 조사하기 시작했다고 확인했습니다.

첨단 AI 모델의 위험성을 평가하는 캘리포니아의 비영리 단체인 METR도 이번 조사에 연루되었습니다. 

공식적인 민사 조사 요구는 몇 주 안에 OpenAI, Anthropic, METR 세 기관 모두에 전달될 것으로 예상됩니다.

미국 연방거래위원회(FTC)는 왜 OpenAI와 Anthropic을 조사하고 있는 걸까요? 

익명의 FTC 고위 관계자는 FTC가 오픈AI와 앤스로픽이 개발 중인 AI 시스템이 미국 소비자에게 어떤 위험을 초래하는지 조사함으로써 불공정하고 기만적인 관행을 단속하기 위한 권한을 활용하고 있다고 밝혔습니다. 

이번 조사는 뉴욕 포스트에서 처음 보도되었습니다. FTC는 아직 공식 발표를 하지 않아 조사 범위가 정확히 어디까지인지 불분명합니다. FTC는 향후 몇 주 안에 OpenAI, Anthropic, 그리고 METR에 소환장과 유사한 효력을 가진 민사 조사 요구서를 보낼 예정이라고 합니다. 

METR이 이번 명단에 포함된 것은 주목할 만한데, 그 이유는 METR이 인공지능 시스템의 위험성을 평가하는 비영리 단체이지 모델 개발 업체가 아니기 때문입니다. METR은 올해 초 오픈아이얼(OpenAI) 모델이 격리 시스템을 뚫고 오픈소스 허브인 허깅페이스(Hugging Face)를 공격한 보안 사고에 대해 독립적dentdent 를 진행한 바 있습니다. 

미국 연방거래위원회(FTC) 위원장 앤드류 퍼거슨은 이달 초 오픈AI와 앤트로픽이 "모두를 공황 상태에 빠뜨린 다음, 자신들이 충분히 충족할 수 있는 규제를 요구하는 것을 용납해서는 안 된다"고 말했습니다. 

2025년 1월, FTC가 빅테크 기업의 AI 파트너십에 대해 실시한 연구 결과에 대한 성명에서 퍼거슨은 FTC가 "AI 규제에 성급하게 나서서는 안 된다"고 경고하며, 지나치게 강압적인 규제가 혁신과 기술 발전을 저해할 수 있다고 주장했습니다. 

Cryptopolitan 보도했습니다 퍼거슨이 자율 에이전트가 피해를 입혔을 때 기업에 책임을 물을 수 없다는 주장을 일축했다고

AI 업계 리더들은 트럼프와 어떤 합의를 했습니까?

도널드 트럼프dent 은 최근 인공지능(AI) 업계 리더들을 소집하여 자발적 협약을 체결했습니다. 이 협약에 따라 기업들은 내부 통제 시스템을 구축하고, 외부 감사를 허용하며, 이사회에서 모델에 대한 검토를 진행할 수 있도록 해야 합니다. 

트럼프 대통령은 업계가 "엄청난 자율 규제"를 보여줬다고 칭찬하며, 이번 협약을 "도덕적으로 구속력이 있다"고, 심지어 "거의 헌법과 같다"고까지 표현했다

앤트로픽의 다리오 아모데이, 오픈AI의 그렉 브록먼, 구글의 순다르 피차이, 메타의 마크 주커버그, xAI의 일론 머스크, 엔비디아의 젠슨 황 등  여러 주요 기술 기업 임원들이 이 협약에 서명했습니다

뉴사우스웨일스대학교 인공지능 연구소의 토비 월시는 인공지능 기업들이 이미 "자체 관리에 있어 무능하고 부주의하다는 것을 입증했다"고 말했다

특히 METR은 지난여름 발생한 보안 문제 로 인해 공격 대상 목록에 올랐습니다 . METR의 8월 보고서에 따르면, METR과 레드우드 리서치의 조사관들은 오픈AI 현장에서 6일 동안 약 1,200개의 에이전트가 독립적으로 실행되어야 함에도 불구하고 공유 메시지 게시판에 접속하여 7만 건 이상의 메시지와 파일을 주고받은 사건을 조사했습니다. 이 중 약 700개의 에이전트가 허깅 페이스(Hugging Face)를 공격했습니다.

연구진은 벌레 떼의 규모가 너무 커서 증거를 샅샅이 조사하기 위해 OpenAI 모델인 GPT-5.6 Sol에 의존해야 했다고 밝혔습니다. 보고서 작성자인 라이언 그린블랫은 연구진이 X에 AI를 사용한 것을 비웃으며 이번 조사를 "엉성한 조사"라고 혹평했습니다