미국 상원 의원들, 메타의 '통제되지 않은' AI 출시를 강하게 비판

미 상원의원 리처드 블룸넛(Richard Blumenthal)과 조슈 호울리(Josh Hawley)는 Meta의 최고경영자 마크 저커버그와 기술 거인의 '유출'된 AI 모델인 LLaMA에 대해 우려를 표명했습니다. 상원의원들은 LLaMA가 잠재적 위험을 초래할 수 있으며 범죄 활동에 악용될 수 있다고 주장합니다.

6월 6일자로 작성된 서한에서 상원의원들은 저커버그의 LLaMA 오픈 소스화 결정을 비판하며, Meta의 AI 모델 출시 시 충분한 안전장치가 부족했다고 주장했습니다. 그들은 오픈 소스 소프트웨어의 혜택을 인정하면서도, Meta의 LLaMA 출시는 잠재적 결과에 대한 철저한 고려가 부족했으며 이는 공공의 이익에 반한다고 주장했습니다.

초기에는 LLaMA가 연구원들에게 제한적으로 온라인으로 출시되었습니다. 그러나 2월 말 4chan 이미지 보드 사이트의 한 사용자가 전체 모델을 유출했습니다. 상원의원들은 전체 모델이 모니터링이나 감독 없이 전 세계 누구나 접근 가능한 BitTorrent에서 쉽게 이용 가능해졌다는 점에 경보를 울렸습니다. 블룸넛과 호울리는 LLaMA가 스팸 발송자, 사이버 범죄자, 사기 활동에 관여하거나 문제 있는 콘텐츠를 배포하는 개인들에게 쉽게 채택될 수 있다고 주장했습니다.

미국 상원의원들의 우려

우려를 강조하기 위해 상원의원들은 LLaMA를 두 개의 폐쇄형 소스 모델인 OpenAI의 ChatGPT-4와 Google의 Bard와 대조했습니다. 그들은 ChatGPT-4가 누군가의 아들이 돈을 요청하는 편지를 작성하라는 요청을 윤리 가이드라인에 따라 거부하는 반면, LLaMA는 요청된 편지와 자해, 범죄, 반유대주의와 관련된 응답을 생성할 것이라고 지적했습니다. 이 차이는 LLaMA가 남용 가능한 자료를 생성할 잠재력에 대한 우려를 불러일으켰습니다.

ChatGPT는 특정 요청을 거부하도록 프로그래밍되어 있지만, 사용자는 모델을 '탈옥(jailbreak)'하여 일반적으로 거부할 응답을 생성하는 방법을 찾아냈습니다. 상원의원들은 저커버그에게 LLaMA 출시 전 어떤 위험 평가가 이루어졌는지, Meta가 유출 이후 피해 예방 또는 완화를 위해 어떤 조치를 취했는지, 그리고 Meta가 AI 연구를 위해 사용자 데이터를 어떻게 활용하는지 등 기타 문의 사항에 대해 질문했습니다.

다른 오픈 소스 모델들의 발전에 대한 압력 하에, OpenAI가 자체 오픈 소스 AI 모델을 개발 중이라는 보도가 있습니다. Google의 수석 소프트웨어 엔지니어가 작성한 유출된 문서는 이러한 오픈 소스 모델들의 진전을 강조했습니다.

AI 모델의 코드를 오픈 소스로 공개하면 특정 목적에 맞게 사용자 지정할 수 있으며 다른 개발자들의 기여를 용이하게 합니다. 그러나 블룸넛과 호울리 상원의원이 제기한 우려는 잠재적 오용과 피해를 방지하기 위해 AI 모델의 출시와 모니터링에 대해 책임감 있고 신중한 접근이 필요함을 강조합니다.