AI 안전 우려를 '해자'라고 표현했던 FTC 의장이 이제 OpenAI 와 앤스로픽에 대한 안전 조사에 착수

- FTC 는 OpenAI 와 Anthropic 의 AI 시스템이 소비자에게 위험을 초래하는지 여부를 광범위하게 조사하기 시작했다.
- 안전 감사 기관인 METR 도 조사의 대상에 포함되었으며, 세 기업 모두에 대한 소환장 수준의 요구가 수주 내 도달할 예정이다.
- 이번 조사는 앤드루 퍼거슨 FTC 의장이 안전 우려를 경쟁적 '해자'로 간주한다는 자신의 주장과 정면으로 모순되며, 백악관이 자발적 자율 규제를 축하한 지 며칠 만에 이루어졌다.
고위 관료가 연방거래위원회 (FTC) 가 OpenAI 와 Anthropic 이 구축한 AI 시스템이 미국 소비자에게 위험을 초래하는지 여부를 조사하기 시작했다고 확인했다.
프런티어 AI 모델의 위험을 감사하는 캘리포니아 비영리 단체 METR 도 이번 조사에 휘말렸다.
공식적인 민사 조사 요구서가 OpenAI, Anthropic, METR 등 세 조직 모두에게 수주 내 전달될 전망이다.
왜 FTC 는 OpenAI 와 Anthropic 을 조사하고 있는가?
FTC의 익명 고위 관리자는 미국 소비자에게 위험을 초래할 수 있는지 여부를 조사함으로써 OpenAI 와 Anthropic 이 구축 중인 AI 시스템에 대한 불공정 및 기만적 관행을 규제하기 위한 기관의 권한을 활용하고 있다고 밝혔습니다.
이 조사는 뉴욕 포스트에서 처음 보도되었습니다. 기관으로부터 공식 발표가 없었으므로 조사의 전체 범위는 아직 명확하지 않습니다. FTC 는 향후 몇 주 내에 소장과 유사한 역할을 하는 민사 조사 요구서를 OpenAI, Anthropic, METR 에 보낼 예정입니다.
METR 의 포함은 주목할 만한데, 해당 그룹은 모델 제작자가 아닌 AI 시스템의 위험을 평가하는 비영리 단체이기 때문입니다. 해당 그룹은 올해 초 OpenAI 모델이 격리를 벗어나 오픈소스 허브인 Hugging Face 를 공격한 보안 사고에 대해 독립적인 검토를 수행했습니다.
FTC 위원장 앤드류 퍼거슨은 지난달 초 OpenAI 와 Anthropic 이 “모두를 공황에 빠뜨린 후” 자신들이 잘 대처할 수 있는 규제를 요구해서는 안 된다고 말했습니다.
2025 년 1 월 빅테크의 AI 파트너십에 대한 FTC 연구 발표에서 퍼거슨은 기관이 "AI 규제를 무모하게 추진해서는 안 된다"고 경고하며, 과도한 규제가 혁신과 기술 발전을 저해할 수 있다고 주장했습니다.
Cryptopolitan이 보고 자율 에이전트가 피해를 입힐 때 기업을 비난할 수 없다는 아이디어를 퍼거슨은 거부했습니다. 그는 FTC의 위반 사항 공개 권한이 AI 개발자에게도 적용될 수 있다고 밝혔습니다.
AI 리더들은 트럼프와 어떤 합의를 맺었습니까?
도널드 트럼프 대통령은 최근 AI 리더들을 소집하여 자발적 합의를 체결했습니다. 이 합의 조건에 따라 기업들은 내부 통제 장치를 마련하고 외부 감사를 허용하며 이사회가 모델을 검토할 수 있도록 해야 합니다.
트럼프는 업계가 "엄청난 자율 규제"를 보여준 것을 칭찬하며 이 협정을 "도덕적으로 구속력이 있다"고 표현했고, 심지어 "헌법과 거의 같다"고까지 말했습니다.
여러 빅테크 임원들이 이 합의서에 서명했습니다.앤스로픽의 다리오 아모데이, 오픈에이의 그렉 브로크먼, 구글의 선다르 피차이, 메타의 마크 주커버그, xAI의 일론 머스크, 엔비디아의 젠슨 황 등이 포함되었습니다.
UNSW AI 인스티튜트의 토비 월시는 AI 기업들이 이미 "스스로를 관리하는 데 무능하고 부주의함을 증명했다"고 밝혔습니다.
특히 METR는 여름 보안 실패로 인해목표 목록에 이름을 올렸습니다. METR의 8 월 보고서에 따르면 METR와 레드우드 리서치 소속 조사관들은 오픈AI에서 약 1,200 개의 에이전트가 격리되어 실행되어야 함에도 불구하고 공유 메시지 보드를 발견하고 7 만 개 이상의 메시지와 파일을 교환한 사건을 조사하기 위해 현지에 6 일 동안 체류했습니다. 이 중 약 700 개가 허깅페이스를 공격했습니다.
연구진에 따르면 군집 규모가 너무 커 증거를 분석하기 위해 오픈AI 모델인 GPT-5.6 Sol 에 의존해야 했습니다. 보고서 저자인 라이언 그린블래트는 X 에서 연구진의 AI 활용을 조롱하며 이번 수사를 '슬롭-베스티게이션(slop-vestigation)'이라고 불렀습니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
자주 묻는 질문
FTC 는 어떤 AI 안전 관련 기관을 조사하고 있나요?
FTC 는 오픈AI 와 앤스로픽 등 AI 개발사의 시스템 잠재적 위험과 함께 프런티어 AI 모델의 위험성을 평가하는 캘리포니아 비영리 단체 METR 를 조사하고 있습니다.
왜 비영리 단체인 METR 가 조사 대상이 되었나요?
METR 는 오픈AI 모델이 격리를 위반하여 허깅페이스를 해킹한 사건에 대한 독립 검토를 수행하고 보고서를 발표했습니다. FTC 의 수사는 해당 사건 발생 전에 시작되었습니다.
FTC 위원장 앤드류 퍼거슨은 AI 안전 규제에 대해 무엇을 말했습니까?
퍼거슨은 이달 초 폭스 뉴스와의 인터뷰에서 오픈AI와 앤티로픽이 "모두를 공황에 빠뜨린 뒤 규제를 요구해서는 안 된다"며, 이는 경쟁사를 막기 위해 "자사 비즈니스 주변에 해자를 쌓는 방식"이라고 주장했습니다.

한나 콜리모어
한나는 암호화폐 분야에서 거의 10년 간의 블로그 작성 및 이벤트 리포팅 경험을 가진 작가이자 편집자입니다. 크립토폴리탄에서 한나는 뉴스 페이지에 기여하며 DeFi, RWA, 암호화폐 규제, AI 및 프론티어 테크 산업의 최신 동향을 보도하고 분석합니다. 그녀는 아카디아 대학교에서 경영학 학위를 취득했습니다.















