센티언트, 모델 출처 추적 강화 위해 모질라 오픈소스 AI 베테랑 줄리 벨리아오 영입
이미지: [Julie Belião](https://www.linkedin.com/in/jbeliao)의 LinkedIn 프로필
- Sentient Foundation는 전 Mozilla.ai 및 Google 제품 리더인 Julie Belião를 VP of Product로 임명했습니다.
- 그녀의 역할은 모델 기원(model provenance) 연구를 실제 작동하는 도구로 전환하는 것입니다.
- 오픈소스 AI를 채택하는 개발자와 기업들은 현재 모델이 어디에서 유래했는지 입증할 수 있는 신뢰할 만한 방법이 없습니다.
Sentient Foundation는 전 Mozilla.ai VP of Product이자 오랜 기간 Google 엔지니어로 활동한 Julie Belião를 VP of Product로 지명했습니다.
Belião은 이제 비영리 단체의 AI 모델 기원 연구 결과를 소프트웨어 개발자가 실제로 활용할 수 있는 소프트웨어로 구현하는 임무를 맡게 되었습니다.
Julie Belião의 Sentient Foundation 내 역할은 무엇인가요?
전 Mozilla.ai VP of Product였으며, Google(NASDAQ: GOOGL)에서 수년간 엔지니어로 근무한 경력이 있는 Julie Belião가 Sentient Foundation의 부사장(VP)으로 영입되었습니다.
Belião의 역할은 재귀적 자기 개선(자신을 개선하는 AI)과 모델 기원에 관한 제품 업무를 주도하는 것입니다. 재단 측은 아직 AI 모델이 어디에서 학습되었는지 입증할 수 있는 표준 방식이 없으므로, Belião의 임무는 이를 가능하게 하는 실제 작동 제품을 구축하는 것입니다.
모질라.ai에서 재직 중이던 벨리앙은 61개 저장소에 대한 오픈소스 전략을 주도하고 개발자 커뮤니티 성장을 지원했습니다. 2025년에는 공동 저자로 “LLM 학습을 위한 오픈 데이터셋의 모범 사례로 나아가기”를 모질라와 EleutherAI와 함께 집필했습니다.
모질라 재단에서는 이 논문에 대해 EleutherAI의 스텔라 비더만 전무이사 및 모질라의 마크 서먼과 함께 협력자로 그녀를 등재했습니다. 이 논문은 AI 학습 데이터는 라이선스를 부여받고, 잘 문서화되며, 명확한 출처를 가져야 한다고 주장했습니다.
모질라 이전에는 벨리앙이 10년 이상 다국어 AI 분야에서 일했습니다. 그녀는 Google Assistant, Google Translate, YouTube의 음성 및 언어 데이터를 다루었으며, 이들은 모두 Google(NASDAQ: GOOGL)의 제품입니다. 그녀는 파리 나테르 대학교에서 컴퓨터 과학 박사 학위를 받았습니다.
왜 지금 AI 모델의 계보성이 중요한가요?
9월 말에, OpenAI는 그들의 AI 모델에서 단계별 추론을 추출하려는 그룹의 노력을 중단했다고 밝혔습니다. 그들은 이 노력을 Kimi의 제작사인 Moonshot AI와 연관된 인물들과 연결지었습니다.
2월, Anthropic은 세 곳의 중국 AI 연구소가 16백만 건 이상의 요청을 보냈다고 보고했습니다 약 24,000개의 가짜 계정을 통해 Claude 모델에 접근했습니다. Anthropic은 해당 연구소가 Claude의 능력을 추출하려 했다고 밝혔습니다. Moonshot는 Claude와 340만 회 이상의 상호작용을 기록했습니다.
모델이 복제되거나 파인튜닝될 경우 다른 시스템으로 증류, 구매자는 종종 어떤 데이터로 학습되었는지 구분하기 어렵습니다.
Sentient는 이미 10월 모델 원본 증명 방법이 복제, 파인튜닝 및 의도적인 제거 시도를 견딜 수 있는지 검증하는 오픈 테스트인 'Fingerprinting Leaderboard'를 출시하며 이 문제에 대응한 바 있습니다.
Sentient 연구진은 10가지 제안된 지문(Fingerprinting) 방법에 대한 공격을 구축했으며, 그 결과는 대부분의 방법이 모델 성능을 해치지 않고 우회 가능하다는 것을 보여주었습니다. 여기에는 Llama-3.1-8B에 24,576개의 지문을 삽입했던 Sentient 자체의 Perinucleus 방법도 포함됩니다.
“지문 기술은 증명 정보를 모델 내부에 저장합니다.”라고 재단 벤처 및 성장 담당 이사인 사치 카미야(Sachi Kamiya)는 설명했습니다. 그녀는 이를 르네상스 화가들이 자신의 작품을 주장하기 위해 사용하던 숨겨진 표시에 비유했습니다.
이번 연구는 Sentient의 OML(Open Model License) 작업을 기반으로 합니다.OML(Open-access, Monetizable, and Loyal AI Model Serving)의 약자입니다. 프린스턴 대학교와 워싱턴 대학교와 함께 진행되었으며, 창작자가 오픈 모델을 공유하면서도 나중에 소유권을 입증할 수 있도록 하는 것을 목표로 합니다.
Sentient 2월에 출시된 AGI를 오픈소스로 유지하겠다는 싱가포르 기반 비영리 단체로 출범했습니다. 6월, 이 기관은 $42백만 달러의 보조금을 투입 오픈소스 빌더들을 위한 자금 및 투자를 지원하고 있습니다. ROMA, OpenDeepSearch, OML 지문 인식 작업 등을 포함한 프로젝트들은 GitHub에서 12,500개 이상의 스타를 기록했습니다.
구글(NASDAQ: GOOGL), 마이크로소프트(NASDAQ: MSFT), 메타(NASDAQ: META)의 연구자들이 이를 인용했습니다.
암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.
자주 묻는 질문
줄리 벨리오(Julie Belião)는 누구인가요?
Sentient Foundation의 신임 제품 담당 부사장입니다. 이전에는 Mozilla.ai의 제품 담당 부사장이었으며, 파리 나테르 대학교에서 컴퓨터 과학 박사 학위를 받은 AI 분야 15년 경력의 구글 엔지니어입니다.
모델 계보(Model Provenance)란 무엇이며 왜 중요한가요?
모델 계보란 AI 모델의 출처와 학습 데이터를 증명하는 능력을 의미합니다. 복제되거나 파인튜닝(distillation)된 모델이 창작자의 표지와 안전 장치를 제거할 수 있기 때문에 중요하며, 현재 이를 검증할 수 있는 표준화된 절차가 마련되어 있지 않습니다.
Sentient는 지금까지 지문 인식 분야에서 어떤 작업을 해왔나요?
10월, Sentient는 공개된 지문(Fingerprinting) 리더보드를 출시했으며, 그 결과 Perinucleus 방식 자체를 포함한 테스트된 10가지 지문 추출 방법 중 거의 모든 방법이 모델을 유용한 상태로 유지하면서 정교한 공격자에게 우회될 수 있는 것으로 나타났습니다.
한나 콜리모어
한나는 암호화폐 분야에서 거의 10년 간의 블로그 작성 및 이벤트 리포팅 경험을 가진 작가이자 편집자입니다. 크립토폴리탄에서 한나는 뉴스 페이지에 기여하며 DeFi, RWA, 암호화폐 규제, AI 및 프론티어 테크 산업의 최신 동향을 보도하고 분석합니다. 그녀는 아카디아 대학교에서 경영학 학위를 취득했습니다.
