구글, 옵트아웃에도 불구하고 출판사 콘텐츠를 사용하여 AI 검색 도구 학습

구글은 수석 임원이 증언한 바에 따라, 출판사들이 AI 학습을 명시적으로 거부했음에도 불구하고 AI 오버뷰(AI Overviews)와 같은 검색 전용 인공지능(AI) 제품이 출판사 콘텐츠를 학습하고 있다는 사실이 새로이 scrutiny(감시/조사)의 대상이 되고 있습니다.

구글 딥마인드의 부사장인 엘리 콜린스(Eli Collins)는 연방 법원에 금요일에 딥마인드가 개발한 AI 모델을 학습하는 데 출판사 콘텐츠가 사용되지 않도록 방지할 수 있지만, 이러한 옵트아웃이 구글의 더 넓은 검색 조직에는 적용되지 않는다고 인정했습니다.

“게이미 [AI 모델]을 검색 조직에 넣으면, 검색 조직은 출판사들이 학습 옵트아웃을 선택한 데이터를 학습할 수 있는 권한을 갖게 되는 것이 맞습니까?”라고 미국 법무부(DOJ) 변호사 다이애나 아길라르(Diana Aguilar)가 물었습니다.

콜린스는 해당 데이터가 “검색 사용”을 위해 여전히 사용될 수 있다고 확인했습니다.

이 같은 사실은 지난 해 온라인 검색 시장에서 불법 독점 혐의로 유죄 판결을 받은 후 기술 기업이 운영 구조를 어떻게 재편해야 하는지를 결정하는 중대한 반독점 재판 중 드러났습니다. 법무부는 이제 크롬 브라우저를 매각하도록 강제하고 기기가 기본 검색 엔진이 되는 거래를 금지하는 등 구조적 구제 조치를 촉구하고 있으며, 이는 회사의 AI 제품, 가메이(Gemini)를 포함한 여러 사업에도 영향을 미칠 것입니다.

구글, 출판사가 허용하지 않은 콘텐츠로 AI 도구 구동

구글의 AI 오버뷰 기능, AI 생성 텍스트를 사용하여 검색 결과 상단에 답변을 요약하는 이 기능은 이미 웹사이트 출판사들을 우려하게 만들었습니다. 많은 이들이 이것이 사용자의 원본 웹사이트 클릭을 줄이고 수익에 해를 끼친다고 주장하지만, 기술 기업은 여전히 이러한 소스의 데이터를 사용하고 있습니다.

2024년 8월 26일자로 “Search GenAI <> Gemini v3”라는 제목의 법무부 제출 문서에 따르면, 내부 데이터는 구글이 출판사 옵트아웃에 대응하여 1600억 토큰의 학습 코퍼스에서 약 800억 토큰(본질적으로 텍스트 스니펫)을 필터링해냈음을 보여주었습니다. 그러나 남은 800억 토큰에는 여전히 구글 검색 AI 기능을 구동하는 콘텐츠가 포함될 수 있습니다.

동일한 문서에는 또한 AI 학습을 강화하기 위한 추가 소스로 “검색 세션 데이터”와 유튜브 동영상이 나열되어 있어, 기술 기업의 AI 모델에 유입되는 사용자 데이터의 범위에 대한 우려를 제기했습니다.

아밋 메타 판사가 데이터셋의 절반이 실제로 출판사 옵트아웃으로 인해 제거되었는지 묻자, 콜린스는 “맞습니다”라고 확인했습니다.

법무부, AI를 위해 검색 데이터 활용에 대한 내부 관심 강조

법무부는 구글 내부에서 방대한 양의 검색 데이터(순위, 쿼리, 사용자 행동)를 사용하여 AI 모델을 학습하려는 야망을 시사하는 내부 토론을 더욱 부각시켰습니다.

그중 하나의 사례는 딥마인드 CEO 데미스 하사비스(Demis Hassabis)를 위해 준비된 브리핑에서, 포괄적인 검색 데이터를 사용하여 구글 AI 모델을 학습함으로써 결과적인 성능 향상을 평가하겠다는 아이디어를 고민한 것을 포함합니다.

아길라는 콜린스에게 구글이 검색 데이터를 사용하여 모델을 구축했는지 물었습니다. 콜린스는 그러한 모델이 개발되고 있는지 알지 못한다고 응답했지만, 하사비스가 이 개념에 관심을 보였음을 인정했습니다.

구글의 법률 팀은 다른 AI 회사들이 검색 색인을 활용하지 않고도 번영할 수 있다고 주장하며 AI 지배력에 대한 우려를 축소하려 했습니다. 예를 들어, 스포츠 챗봇은 웹 크롤링 콘텐츠가 아닌 점수 제공업체와의 상업적 파트너십을 통해 실시간 데이터에 접근할 수 있습니다.

그럼에도 불구하고 법무부는 구글의 검색 분야 장기적 지배력이 AI 공간에서 불공정한 우위를 점하게 한다고 주장하며, 특히 가메이를 검색 인프라에 통합함에 따라 더욱 그러합니다.

구글, 광고 사업에 대한 추가 감시

알파벳의 구글은 9월 광고 기술 사업부의 일부를 매각하도록 강제하려는 반독점 당국의 제안에 대해 재판을 받게 됩니다. 제안된 변경 사항들은 온라인 출판사들이 디지털 광고를 판매하는 데 사용하는 도구들에 대한 기업의 지배력을 해결하는 것을 목표로 합니다.

버지니아 알렉산드리아에 위치한 연방지법 레오니 브린케마 판사는 구글과 법무부(DOJ)로부터 잠재적 구제책에 대한 청취 후 재판일을 확정했다. 양측은 월요일까지 상세한 제안서를 제출할 것으로 예상된다.

법무부는 기술 기업이 광고 교환 및 출판사 광고 서버 사업을 매각하도록 요구할 계획이며, 법무부 변호사 줄리아 타버 우드에 따르면 이 과정에는 수년이 걸릴 것으로 예상된다.

구글 변호인 카렌 던은 실시간 입찰을 경쟁사에 개방하는 등 행동적 구제책을 지지한다고 반박했다. 그러나 그녀는 법무부가 법적으로 기업에 사업부의 일부를 매각하도록 강제할 수 없다고 주장했다. 던은 이러한 조치가 인터넷 이용자에게 해를 끼칠 것이며, 관심 있는 매수자가 부족하다는 이유로 도전에 직면할 것이라고 덧붙였다.