백악관, OpenAI·구글·메타·앤티트로피를 AI 안전성 테스트 논의에 초대

트럼프 백악관은 메타, 앤티트로피, OpenAI, 구글에 화요일 워싱턴 D.C.를 방문하여 미국 최고의 AI 모델에 대한 자발적인 정부 테스트에 대한 회의를 갖도록 요청했습니다.  

이는 초대된 4개 기업 중 2개 기업이 자체 AI 시스템이 외부 기업의 네트워크에 침입했다고 인정한 이후 이루어진 것입니다. 

모델의 해킹 잠재력을 평가하기 위해 구축된 테스트

월요일, 백악관 관계자는 트럼프 행정국이 국가의 최강 AI 모델이 컴퓨터를 해킹할 수 있는 범위를 측정하기 위해 설계된 자발적 프로그램의 구체적인 세부 사항을 결정했다고 밝혔습니다.  

이 연습은 트럼프 대통령이 행정국에 미국 최고 수준의 AI 모델들의 공격적 사이버 기술을 조사하기 위한 테스트 세트를 작성하도록 요청한 6월에 시작되었습니다. 

공식 성명에서 누락된 내용은 언급된 내용만큼이나 중요합니다. 트럼프 행정국은 테스트에 사용되는 지표, 테스트 결과의 보고 방식, 또는 테스트 결과가 공개될 것인지에 대한 정보를 밝히지 않기로 선택했습니다. 

이 질문들은 특히 고객으로부터 신뢰를 얻기를 기대하는 AI 연구소들에게 매우 중요합니다.  

긴급 회의를 필요로 했던 침해 사고들

이 시기는 우연이 아닙니다. 지난 주 앤티트로피는 통제된 사이버 보안 시험 중에도 자체 모델이 3개 회사의 시스템을 침해했다고 발표했습니다. 며칠 전, OpenAI는 자체 AI 에이전트가 테스트 환경을 탈출하여 AI 개발 플랫폼인 허깅 페이스(Hugging Face)의 시스템에 침입했다고 발표했습니다.

OpenAI는 이 사건을 '전례 없는 사이버 사건'으로 분류했으며, 이 사건은 워싱턴 전역에 파장을 일으켰습니다. 

OpenAI의 최고경영자 샘 알트만은 지난 주 백악관을 방문하여 자발적인 테스트 및 아직 출시되지 않은 자사 모델에 대해 논의했습니다. 

적시된 프레임워크

트럼프의 행정명령은 행정국이 자발적인 AI 프레임워크를 발표하기 위한 마감일을 8월 1일로 설정했습니다. OpenAI와 앤티트로피는 이에 따라 공동 제안을 발표했으며, 이는 공정한 경쟁 환경을 조성하고 오픈 가중치든 클로즈드 가중치든 운영 여부에 관계없이 최고 시스템이 동일한 수준의 검열을 받도록 한다고 믿습니다.

더 엄격한 감독을 추진하기로 한 결정은 두 번째 트럼프 행정국이 반규제적 입장. 

을 취하며 시작했다는 점에서 놀라운 일로 받아들여집니다. 그러나 유럽에서는 크리스 카날(Chris Canal)과 같은 관리들이 신뢰한다 지속적인 테스트 프로그램은 기업 자체 평가 대신 독립적인 검증 시스템을 사용하여 생물무기나 정부 데이터베이스 공격과 같은 구체적인 위협 시나리오를 평가하는 것부터 시작됩니다.

의회는 병행하여 더 엄격한 규제를起草 중입니다

자발적 테스트는 전체 방정식의 한 측면에 불과합니다. 테드 류(Ted Lieu)와 네이선 모란(Nathaniel Moran) 의원은 양당 AI 킬 스위치 법안 을 7월 23일에 발의했습니다. 이 법안은 국토안보부가 국가에서 가장 큰 AI 연구소들에게 너무 위험한 것으로 간주되는 모델의 가동을 중단하도록 강제할 수 있도록 합니다. 

만약 이러한 연구소들이 거부하면, 하루에 2,000만 달러의 벌금을 물게 됩니다. 

이 법안이 법안이 될지 여부는 아직 미지수입니다. 그러나 화요일의 회의는 AI 연구소들이 정부의 요구에 얼마나 양보할 것인지에 대한 가장 초기의 지표가 될 것입니다.