구글은 자사의 주력 인공지능 모델인 제미니 2.5 프로에 대한 안전성 보고서를 공개했습니다. 전문가들은 이 보고서에서 주요 위험 요소에 대한 설명이 부족하다고 지적합니다.
구글은 제미니 2.5 프로를 고객에게 출시한 지 몇 주 만인 목요일에 문서를 테크크런치와의 이러한 세부 정보 부족으로 제미니 2.5 프로가 광범위하게 사용하기에 정말 안전한지 판단하기 어렵다고 밝혔습니다.
기술 보고서는 일반 대중이 첨단 AI 시스템의 능력과 한계를 파악하는 주요 수단 중 하나입니다. 꼼꼼한 보고서는 모델의 한계점과 오용 가능성을 명확히 보여줍니다. 많은 AI 연구자들은 이러한 보고서를 기업의 안전성 주장을 뒷받침하는 진정성 있는 자료로 여깁니다.
구글은 안전 관련 보고를 다른 방식으로 처리합니다.
구글은 모델이 더 이상 "실험적"으로 분류되지 않은 후에야 보고서를 발표하며, 특정 "위험한 기능" 관련 사항은 별도의 감사 보고서로 분리하여 즉시 공개하지 않습니다. 따라서 공개 보고서에는 구글이 테스트한 모든 위협 요소가 포함되지는 않습니다.
여러 분석가들은 새로운 제미니 2.5 프로 문서가 정보 공개가 극히 제한적인 사례라고 지적했습니다. 또한 보고서에서 구글이 작년에 발표한, "심각한 피해"를 초래할 수 있는 미래의 AI 기술을 식별하기 위한 정책인 프론티어 안전 프레임워크(FSF)에 대한 언급이 전혀 없다는 점도 주목했습니다
인공지능 정책전략연구소의 공동 설립자인 피터 와일드포드는 "이 보고서는 내용이 매우 빈약하고 최소한의 정보만 담고 있으며, 모델이 공개된 지 몇 주가 지난 후에 나왔다"며, "구글이 스스로 한 약속을 지키고 있는지 확인할 수 없으므로 모델의 안전성과 보안성을 판단하는 것도 불가능하다"고 말했다
보안 AI 프로젝트의 공동 설립자인 토마스 우드사이드는 논문이 발표된 것 자체는 다행스러운 일이지만, 구글이 꾸준히 후속 연구 결과를 발표할 계획인지에 대해서는 회의적인 반응을 보였다. 그는 구글이 위험성 테스트 결과를 마지막으로 공개한 것이 2024년 6월이었고, 당시 발표된 논문은 같은 해 2월에 공개된 모델을 다룬 것이었다는 점을 지적했다.
지난주 구글이 공개한 더 얇고 빠른 모델인 제미니 2.5 플래시에 대한 안전 문서가 공개되지 않자 신뢰도는 더욱 떨어졌습니다. 회사 대변인은 플래시용 안전 문서가 "곧 공개될 예정"이라고 밝혔습니다
우드사이드 씨는 "더 자주 업데이트를 제공하겠다는 이번 약속이 진정한 것이기를 바랍니다."라고 말하며, "이러한 업데이트에는 아직 공개되지 않은 모델에 대한 결과도 포함되어야 합니다. 왜냐하면 그러한 모델들 또한 심각한 위험을 내포하고 있을 수 있기 때문입니다."라고 덧붙였다
구글은 이제 투명성 면에서 부족함을 드러낸다
Meta는 새로운 Llama 4 모델에 대한 안전성 보고서를 단 몇 페이지 분량으로 작성했으며, OpenAI는 GPT-4.1 시리즈에 대한 보고서를 아예 공개하지 않았습니다.
세부 정보 부족은 긴장된 시기에 발생했습니다. 2년 전 구글은 약속했습니다 . 구글은 다른 국가 관리들에게도 비슷한 약속을 하며 AI 제품에 대한 "투명성"을 제공하겠다고 밝혔습니다.
민주주의 및 기술 센터의 AI 거버넌스 수석 고문인 케빈 뱅크스턴은 주요 연구소들의 소프트웨어 공개를 안전성 측면에서 "최악의 경쟁"이라고 비판했습니다.
그는 "경쟁사인 오픈AI 같은 연구소들이 출시 전 안전성 테스트 시간을 몇 달에서 며칠로 단축했다는 보고와 더불어, 구글의 최고 모델에 대한 이처럼 부실한 문서는 기업들이 모델을 서둘러 시장에 내놓으면서 AI 안전성과 투명성이 바닥으로 떨어지는 경쟁이 벌어지고 있다는 우려스러운 현실을 보여준다"고 덧붙였다.
구글은 자사의 안전 관련 작업 대부분이 비공개로 진행된다고 밝혔습니다. 또한 모든 모델은 공개 출시 전에 "적대적 레드팀 테스트"를 포함한 엄격한 테스트를 거친다고 설명했습니다.
