구글, 풍자적이고 황당한 검색어에 대한 AI 개요 검색 제한

구글은 일부 검색 결과에서 AI 개요 표시를 축소하고 있습니다. 이러한 결정은 구글이 공개적으로 저지른 몇 가지 실수로 인해 인터넷상에서 거센 비난을 받은 후 내려졌습니다.

목요일, 구글 검색 책임자인 리즈 리드는 회사가 인공지능(AI)이 생성한 요약 정보인 "AI 개요"를 제한하고 있다고 인정했습니다. 이 AI 기반 기능은 사람들에게 돌을 먹으라고 하거나 피자에 치즈를 붙이라고 권하는 내용을 보여주기 시작하면서 비판을 받았습니다.

관련 기사: 구글, 오픈아이(OpenAI)를 포함한 13개 기업이 위험한 AI 모델을 배포하지 않겠다고 약속

구글은 연례 I/O 행사에서 여러 AI 기반 제품을 공개한 후 2주 전부터 미국 사용자들에게 AI 개요를 제공하기 시작했습니다. 목요일부터 사용자들은 AI 답변이 나오는 질문의 수가 줄어든 것을 확인할 수 있었습니다.

가짜 AI 개요를dent신중한 분석이 필요합니다

레이드는 블로그 게시물에서 소셜 미디어 사용자들이 이상한 해결책을 제시하는 AI 개요 화면 캡처 이미지를 공유했다고 썼습니다. 그녀는 구글의 AI가 일부 오류를 범했지만, 대부분은 가짜였으며 구글의 AI 시스템에서 생성된 것이 아니라고 말했습니다.

그녀는 이상하거나 부정확한 AI 개요가 실제로 나타나는 경우가 있음을 인정했습니다. 이는 기능 개선이 필요한 영역을 보여주지만, 일반적으로 많이 검색되는 내용은 아닙니다. 가짜 개요에 대해 그녀는 다음과 같이 말했습니다

"별도로, 조작된 스크린샷이 대량으로 유포되었습니다. 이러한 조작된 결과 중 일부는 너무나 명백하고 어처구니없었습니다."

보여주지 않았다고 말했습니다 AI 개요를 임신 중 흡연이나 차 안에 개를 방치하는 것과 같은 주제에 대해서는

구글의 AI가 이제 풍자적인 콘텐츠를dent할 수 있습니다

구글은 풍자적인 콘텐츠와 무의미한 검색어가 부정확한 AI 개요를 생성하는 데 있어 개선이 필요한 부분임을dent했습니다. 구글은 "돌을 몇 개나 먹어야 할까요?"라는 검색어의 스크린샷이 소셜 미디어에서 화제가 되기 전에는 아무도 그런 질문을 하지 않았다고 밝혔습니다. 리드는 구글 트렌드를 통해 이를 확인할 수 있다고 말했습니다.

관련 기사: Opera, Aria 브라우저 AI 강화를 위해 Google의 Gemini 모델 통합

또 다른 요인은 특정 주제에 대한 콘텐츠가 매우 부족하다는 점, 즉 데이터 공백인데, 이는 AI 개요의 정확성을 떨어뜨리는 원인이기도 합니다. 암석을 먹는 것에 대한 질문과 관련하여 리드는 해당 콘텐츠의 풍자적인 성격이 AI 개요를 촉발했다고 말했습니다. 또한 해당 콘텐츠는 지질학 소프트웨어 웹사이트에 재게시되었고, AI 개요는 해당 웹사이트를 링크했습니다. 그녀는 다음과 같이 설명했습니다

"그래서 누군가 검색창에 그 질문을 입력하면, AI 개요가 나타나 그 질문에 대한 답변을 제공하는 몇 안 되는 웹사이트 중 하나로 연결되었습니다."

리드는 소셜 미디어에서 화제가 되고 있는 다른 AI 개요들에 대해서는 언급하지 않았지만, 많은 주요 언론사들도 이에 대한 보도를 내놓았습니다. 예를 들어, 워싱턴 포스트는 구글이 버락 오바마가 무슬림이라고 알려준 사례를 보도했습니다. 또한, 구글 AI 개요가 신장 결석 배출을 돕기 위해 소변을 마셔야 한다고 사용자에게 알려준 사례도 보도했습니다.

구글은 공개 포럼에 집착한다

구글 검색 책임자는 해당 기능을 일반에 공개하기 전에 광범위하게 테스트했다고 밝혔습니다. 또한 실제 사용 환경을 테스트 단계에서 완벽하게 재현하기는 어렵지만, 구글은 철저한 레드팀 활동과 일반적인 사용자 검색어 샘플링을 통해 효과를 검증했다고 덧붙였습니다. 

관련 기사: 구글의 AI 개요 기능, 부정확한 결과로 비판받아

일부 사용자와 인터넷 콘텐츠 분석가들은 구글이 최근 레딧과 같은 공개 포럼의 검색 결과를 많이 보여주기 시작했다는 점에 주목하고 있습니다. 일각에서는 구글과 레딧 간의 계약에 의문을 제기하고 있지만, 구글 대변인은 BBC와의 인터뷰에서 레딧의 검색 결과 노출도를 높이는 조건은 계약에 포함되지 않았다고 밝혔습니다.

마케팅 에이전시인 암시브(Amsive)의 SEO 전략 및 연구 담당dent 인 릴리 레이는 현재 많은 검색어에 레딧(Reddit) 결과가 반영된다고 말합니다. 그녀는 또한 X 포스트(이전에는 트위터)에서 구글을 풍자하며 전 세계의 모든 지식(레딧 콘텐츠)이 AI와 결합되었다고 언급했습니다.

신사 숙녀 여러분, 전 세계의 모든 지식과 인공지능, 그리고 레딧 트롤 한 명이 합쳐졌습니다. pic.twitter.com/jhzT2pGXjh

— 릴리 레이 😏 (@lilyraynyc) 2024년 5월 21일

레이드는 AI 개요의 일부 예시에는 토론 포럼에서 가져온 풍자적인 내용이 포함되어 있다고 말했습니다. 그녀는 포럼이 직접적인 정보를 얻을 수 있는 좋은 출처이지만, 경우에 따라서는 피자에 치즈를 붙이는 것과 같이 그다지 도움이 되지 않는 답변을 얻을 수도 있다고 덧붙였습니다.

구글의 AI도 언어를 잘못 해석하여 AI 개요에서 잘못된 정보를 제공하는 경우가 있지만, 회사에 따르면 그러한 답변의 비율은 매우 낮습니다. 리드는 개선을 통해 또는 구글 정책을 준수하지 않는 답변을 삭제하는 방식으로 문제를 신속하게 해결했다고 언급했습니다.

구글 검색 부사장은tron안전장치가 마련되어 있다고 밝혔습니다. 구글은 건강 관련 검색 결과의 품질 보호를 강화하기 위해 새로운 검색 조건 개선 조치를 시행했습니다. 리드 부사장은 또한 의미 없는 검색어에 대해서는 AI 개요를 표시하지 않도록 탐지 시스템을 업데이트했다고 말했습니다. 더불어 풍자적인 검색어에 대한 AI 개요 표시 횟수를 줄일 것이라는 점을 시사하며, "오해의 소지가 있는 조언을 제공할 수 있는 사용자 생성 콘텐츠 사용을 제한하기 위해 시스템을 업데이트했습니다."

아미르 셰이크의 Cryptopolitan 보도