구글, 풍자적이고 비논리적인 쿼리에 대한 AI 개요 제한

구글은 일부 검색 결과에서 AI 개요의 노출을 축소하고 있습니다. 이 결정은 검색 거대 기업이 공개적으로 논란이 된 실수를 저지른 후 인터넷상에서 대중의 반발을 불러일으킨 뒤 내려졌습니다.

목요일, 구글 서치 책임자인 리즈 리드는 회사가 'AI 개요'라고 불리는 AI 생성 요약을 제한하고 있다고 인정했습니다. 이 AI 기반 기능은 바위를 먹거나 치즈를 피자에 붙이라는 내용을 보여주는 것으로 시작되면서 비판을 받았습니다.

또한 읽기: 구글, 오픈에이아이 및 기타 13 개 기관, 위험한 AI 모델 배포 금지 약속

구글은 지난주 연례 I/O 이벤트를 통해 여러 AI 기반 서비스를 출시한 지 2 주 만에 미국 사용자에게 AI 개요를 표시하기 시작했습니다. 목요일부터 사용자들은 질문이 줄어들어 AI 응답을 받는 것을 발견했습니다.

가짜 AI 개요 식별에는 신중한 분석이 필요합니다

리드는 블로그 게시글에서 소셜 미디어 사용자가 기괴한 해결책을 제시하는 AI 개요 스크린샷을 공유했다고 썼습니다. 그녀는 회사의 AI 가 일부 실수를 저질렀지만 많은 것은 가짜이며 구글의 AI 시스템에서 생성된 것이 아니라고 말했습니다.

그녀는 이상하거나 부정확한 AI 개요가 분명히 나타났음을 인정했습니다. 이는 해당 기능이 개선되어야 할 부분을 강조한 것이지만, 일반적으로 검색되는 쿼리는 아닙니다. 가짜 것에 대해 언급하며 그녀는 이렇게 말했습니다.

"별도로 수천 개의 조작된 스크린샷이 광범위하게 공유되었습니다. 이러한 조작된 결과 중 일부는 명백하고 어리석었습니다."

리드는 임신 중 흡연이나 개를 차에 방치하는 것과 같은 주제에 대해 구글이 어떤 AI 개요도 표시하지 않았다고 말했습니다. 그녀는 소셜 미디어에서 그러한 스크린샷을 본 사용자가 직접 검색하여 확인해 줄 것을 요청했습니다.

구글 AI 는 이제 풍자 콘텐츠를 식별할 수 있습니다

Google는 왜곡된 AI 개요를 생성하는 문제를 해결하기 위해 풍자적 콘텐츠와 의미 없는 쿼리를 다뤄야 함을 확인했습니다. 구글은 "얼마나 많은 바위를 먹어야 할까요?"라는 쿼리의 스크린샷이 viral 되기 전에는 아무도 이 질문을 하지 않았다고 밝혔습니다. 리드는 이를 확인할 수 있는 Google Trends가 존재한다고 말했습니다.

함께 읽기: 오페라, 아리아 브라우저의 AI 기능 강화를 위해 구글 제미니 모델 통합

또 다른 요인은 특정 주제에 대한 콘텐츠가 거의 없어 데이터 공백(data void) 상태인 경우로, 이 역시 부정확한 AI 개요의 원인이 됩니다. 바위 섭취 관련 쿼리에 대해 리드는 풍자적 성격의 콘텐츠가 AI 개요를 유발했다고 설명했습니다. 해당 콘텐츠는 지질학 소프트웨어 웹사이트에서도 재게시되었으며, AI 개요는 이를 링크했습니다. 그녀는 다음과 같이 덧붙였습니다.

"따라서 누군가가 검색창에 그 질문을 입력했을 때, 해당 질문에 답변한 유일한 웹사이트 중 하나를 충실히 연결하는 AI 개요가 나타났습니다."

라이드는 소셜 미디어를 돌고 있는 다른 AI 개요에 대해 언급하지 않았으며, 많은 주요 출판사들도 이에 대한 보고서를 발표했습니다. 예를 들어, 워싱턴 포스트는 구글이 바락 오바마가 무슬림이라고 사람들에게 말한 것에 대한 보고서를 발표했습니다. 해당 언론사는 또한 구글 AI 개요가 신장 결석을 배출하는 데 소변을 마셔야 한다고 사용자에게 말한 또 다른 사례도 보도했습니다.

구글은 공개 포럼에 집착하고 있습니다

구글의 검색 담당자는 이 기능을 대중에게 출시하기 전에 광범위하게 테스트했다고 밝혔습니다. 그녀는 또한 실제 사용 관행은 테스트 단계에서 시뮬레이션하기 어렵다고 인정했지만, 회사는 전형적인 사용자 쿼리에 대한 철저한 레드 팀링과 샘플링을 수행했다고 덧붙였습니다. 

또한 읽기: 구글의 AI 개요 기능이 부정확한 결과로 인해 반발을 사고 있습니다

일부 사용자와 인터넷 콘텐츠 분석가들은 구글이 최근 레딧과 같은 공개 포럼에서 많은 결과를 표시하기 시작했다고 지적합니다. 일부는 구글과 레딧 간의 계약에 의문을 제기하지만, 구글 대변인은 BBC와의 인터뷰에서 레딧에 검색 결과에서 더 많은 가시성을 부여하기 위한 계약에 그러한 조건이 포함되지 않았다고 밝혔습니다.

Amsive 마케팅 에이전시의 SEO 전략 및 연구 부사장인 릴리 레이 (Lily Ray) 는 현재 많은 검색 쿼리에 레딧 (Reddit) 의 결과가 표시된다고 말합니다. 그녀는 또한 X(구 트위터) 게시글에서 전 세계의 지식 (레딧 콘텐츠) 이 AI 와 결합되었다며 구글을 풍자했습니다.

여러분, 전 세계의 모든 지식이 AI 의 힘과 하나의 레딧 트롤과 결합되었습니다. pic.twitter.com/jhzT2pGXjh

— 릴리 레이 😏 (@lilyraynyc) 5월 21, 2024

레이드는 일부 사례에서 AI 개요 기능에 토론 포럼의 풍자적 콘텐츠가 포함된다고 말했습니다. 그녀는 포럼이 1 차 정보의 좋은 출처이지만, 어떤 경우에는 치즈를 피자에 붙이는 것과 같이 도움이 되지 않는 답변을 유발할 수 있다고 밝혔습니다.

구글의 AI 는 언어를 오해하여 AI 개요에 잘못된 정보가 포함되기도 하지만, 해당 비율은 매우 낮다고 회사는 설명합니다. 레이드는 이러한 문제들이 정책 미준수 응답 제거나 개선을 통해 신속하게 해결되었다고 지적했습니다.

구글 검색의 부사장 또한 건강 및 뉴스와 같은 주제에 대해 강력한 가이드라인이 존재한다고 밝혔습니다. 회사는 건강 관련 정보의 품질 보호를 강화하기 위해 새로운 트리거링 정교화를 출시했습니다. 리드는 비논리적인 쿼리가 AI 개요로 표시되지 않도록 탐지 시스템도 업데이트되었다고 말했습니다. 그녀는 또한 풍자적인 쿼리에 대한 AI 개요가 줄어들 것임을 암시하며, "우리는 오해의 소지가 있는 조언을 제공할 수 있는 응답에서 사용자 생성 콘텐츠의 사용을 제한하도록 시스템을 업데이트했습니다."

Aamir Sheikh가 Cryptopolitan에서 보도