- 구글은 최신 AI 모델인 Gemini 2.5 Pro의 공개 출시 몇 주 후 안전 보고서를 발표했습니다.
- 전문가들은 이 보고서에 중요한 안전 세부 사항이 빠져 있어 모델의 위험성이나 구글의 안전 관행을 평가하기 어렵다고 지적합니다.
- 보고서에는 향후 고위험 AI 기능을 탐지하도록 설계된 도구인 구글의 프론티어 세이프티 프레임워크(FSF)에 대한 언급이 없습니다.
Google은 주력 인공지능 모델인 Gemini 2.5 Pro에 대한 안전 논문을 공유했습니다. 전문가들은 주요 위험이 설명되지 않았다고 말합니다.
회사는 목요일 기술 논문을 게시했으며, 이는 Gemini 2.5 Pro를 고객에게 출시한 지 몇 주 후였습니다. 이 문서는 Google이 모델에서 실행한 내부 테스트를 나열하지만, 시스템이 과부하 또는 오용 상황에서 어떻게 작동하는지에 대한 사실은 거의 제공하지 않습니다. 논문을 검토한 연구원들은 TechCrunch에게 누락된 세부 사항으로 인해 Gemini 2.5 Pro가 광범위한 사용에 정말로 안전한지 판단하기 어렵다고 말했습니다.
기술 보고서는 대중이 고급 AI 시스템이 무엇을 할 수 있고 할 수 없는지 알아내는 주요 방법 중 하나입니다. 철저한 보고서는 종종 모델이 실패하는 곳과 오용될 수 있는 곳을 보여줍니다. 많은 AI 연구원들은 이러한 논문을 회사의 안전 주장을 뒷받침하는 정직한 노력으로 간주합니다.
Google은 안전 보고를 다르게 처리합니다.
Google은 모델이 더 이상 ‘실험적’으로 태그되지 않은 후에만 보고서를 출시하며, 특정 ‘위험한 기능’ 발견 사항을 즉시 출판되지 않는 별도의 감사로 이동시킵니다. 결과적으로 공개 논문은 Google이 테스트한 모든 위협을 다루지 않습니다.
여러 분석가들은 새로운 Gemini 2.5 Pro 문서가 제한된 공개의 뚜렷한 사례라고 말했습니다. 그들은 또한 보고서가 Google이 지난해 발표하여 향후 AI 기능이 ‘심각한 피해’를 초래할 수 있는 것을 식별하는 정책인 Frontier Safety Framework(FSF)를 전혀 언급하지 않았다는 점도 주목했습니다.
“이 보고서는 매우 빈약하며 최소한의 정보만 포함하고 있으며, 모델이 공개된 지 몇 주 후에 도착했습니다.”라고 AI 정책 및 전략 연구소 공동 설립자 Peter Wildeford는 말했습니다. “Google이 자신의 약속을 이행하고 있는지 확인할 수 없으므로 모델의 안전과 보안을 판단하는 것도 불가능합니다.”
Secure AI Project 공동 설립자 Thomas Woodside는 어떤 논문이든 등장한 것을 기쁘게 생각했지만, Google이 꾸준한 후속 논문을 출시할 계획에 의문을 제기했습니다. 그는 회사가 위험한 기능 테스트 결과를 마지막으로 공유했던 시기가 2024년 6월이었으며, 그 논문은 같은 해 2월에 발표된 모델을 다뤘다고 지적했습니다.
관찰자들이 Google이 지난 주 공개한 더 가볍고 빠른 모델인 Gemini 2.5 Flash에 대한 안전 논문을 보지 못했을 때 신뢰도는 더욱 떨어졌습니다. 회사 대변인은 Flash 논문이 “곧 출시될 것”이라고 말했습니다.
“이것이 더 빈번한 업데이트를 시작한다는 진정한 약속이기를 바랍니다.”라고 Woodside는 말했습니다. “그 업데이트에는 아직 공개되지 않은 모델에 대한 결과도 포함되어야 합니다. 왜냐하면 이러한 모델도 심각한 위험을 초래할 수 있기 때문입니다.”
Google은 이제 투명성에서 부족합니다
Meta의 새로운 Llama 4 모델에 대한 안전 노트은 몇 페이지에 불과한 반면, OpenAI는 GPT-4.1 시리즈에 대해 어떤 보고서도 게시하지 않기로 선택했습니다.
세부 정보의 부족은 긴장된 시기에 발생합니다. 2년 전, Google 미국 정부에 범위 내의 모든 ‘중요한’ AI 모델에 대한 안전 논문을 게시하겠다고 말했습니다. 회사는 다른 국가의 관리들에게도 유사한 약속을 했으며, AI 제품에 대한 ‘공개 투명성’을 제공하겠다고 말했습니다.
Center for Democracy and Technology의 AI 거버넌스 수석 고문 Kevin Bankston은 선도적인 연구소들의 출시를 안전에 대한 ‘하향 경쟁’이라고 불렀습니다.
“OpenAI와 같은 경쟁 연구소들이 출시 전 안전 테스트 시간을 개월에서 일수로 줄였다는 보고서와 결합하여, Google의 최상위 모델에 대한 이러한 미미한 문서는 회사들이 모델을 시장에 급히 출시하면서 AI 안전과 투명성에 대한 하향 경쟁을 보여주는 우려스러운 이야기입니다.”라고 그는 덧붙였습니다.
Google은 안전 작업의 대부분이 비공개로 진행된다고 말합니다. 회사는 모든 모델이 공개 출시 전에 ‘적대적 레드 팀 테스트’를 포함한 엄격한 테스트를 거친다고 명시합니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
누르 바즈미
Noor Bazmi는 미디어학 학위를 갖춘 크립토폴리탄 뉴스 팀에 기여하고 있습니다. Noor은 블록체인, 암호화폐, 인공지능, 빅테크, 전기차 시장, 글로벌 경제 및 정부 정책 변화에 관한 뉴스를 보도합니다. 그녀는 글로벌 청중과 소통하기 위해 마케팅을 공부 중입니다.
