최신 뉴스
당신을 위한 선택

Google AI Overviews의 건강 검색 오류, 우려 제기

작성자아미르 셰이크아미르 셰이크 3분 읽기
건강 관련 검색어가 Google 검색에서 더 많은 AI 오버뷰를 유발하고 있습니다

Google IA 오버뷰

  • 건강 관련 질문이 더 많은 AI 요약을 생성하고 있어 분석가들의 우려를 자아내고 있습니다.
  • 의사들은 서로 다른 출처의 사실을 혼용하면 신뢰성이 낮은 통계가 더 신뢰할 만해 보인다고 말합니다.
  • 일부 분석가들은 Google 이 AI 오버뷰를 더 신뢰할 수 있도록 개선 중이라고 주장합니다.

Google은 건강 문제에 대한 쿼리에 답변하기 위해 인공지능을 사용하고 있습니다. 일부 분석가들은 AI 개요 기능이 신뢰할 수 없는 정보를 제공할 수 있다는 점을 고려하여 이를 우려하고 있습니다.

의료 전문가들은 AI 개요가 특히 개인 건강 쿼리에 답변할 때 우려될 수 있다고 말합니다. 그들은 최근 뉴욕 타임스의 보고서에 따르면, 이 기능은 필요한 의료 치료로 사람들을 안내할 수도 있지만 부정확한 정보를 제공할 잠재력이 있다고 주장했습니다.

AI 개요 검색 오류로 인한 AI 환각 현상 감정 고조

Google은 웹사이트 콘텐츠의 요약을 생성하고 Google 검색 결과 페이지에 표시하는 기능인 AI 개요를 도입했습니다. 출시 후 며칠 만에 이 기능은 결함이 있는 출처에 기반하여 답변을 제공하면서 광범위한 부정확성을 보였으며, 이는 AI가 환각에 취약하고 사실적으로 잘못된 정보를 생성할 수 있다는 감정을 더욱 부채질했습니다.

또한 읽기: Google, 풍자적이고 nonsensical한 쿼리에 대한 AI 개요 제한

매일 락 음악을 듣거나 접착제가 발라진 피자를 먹으라는 건강 관련 검색 결과는 반발을 불러일으켰습니다. AI 개요는 세계보건기구(WHO), WebMD, PubMed, 메이요 클리닉과 같은 출처를 인용하지만, 이러한 출처로 제한되지는 않습니다. 분석가들은 이 도구가 Reddit, 위키백과, 다양한 블로그 및 전자상거래 사이트에서 정보를 끌어온다고 말합니다.

Google의 수석 제품 관리 디렉터인 헤마 부다라주는 건강 관련 쿼리에 대한 추가 안전 장치가 있다고 말했지만, 추가 세부 사항을 공개하는 것을 거부했습니다. 헤마는 시스템이 자해 상황을 감지하는 경우와 같이 일부 쿼리는 AI 개요를 트리거하지 않는다고 덧붙였습니다.

Google은 AI 개요가 Google 지식 그래프와 통합된다고 밝혔습니다. 이는 여러 출처에서 끌어온 데이터를 포함하는 지식베이스이지만, AI 지원 검색 기능의 출력을 지원하는 웹사이트에 대한 세부 사항은 제공하지 않았습니다.

Google, 건강 쿼리에 대해 더 많은 AI 개요 표시

전통적인 결과인 ‘10개의 파란색 링크’는 사용자가 신뢰할 수 있는 의료 출처와 유료 링크 또는 신뢰도가 낮은 웹사이트를 구분할 수 있었기 때문에 사용자에게 도움이 되었습니다. AI 개요가 도입되면서 상황이 바뀌었습니다. 이제 단일 텍스트 블록이 다른 출처에서 수집된 정보를 보여주며, 이는 분석가들의 지적대로 혼란을 초래합니다.

와이어드의 케이트 니브스는 팟캐스트에서 다음과 같이 말했습니다.

“천식이나 제가 당뇨병이 있는지 등 질병과 관련된 무언가를 검색할 때, 오늘날에도 여전히 AI 개요를 볼 가능성이 매우 높습니다. 모든 사람에게 해당하는 것은 아니지만, 여전히 약 63%입니다. 그리고 그것은 상황에 따라 다를 것 같습니다.”

다리시우스 모자파리안 박사와 같은 일부 의사들은 AI 개요가 일부 사실을 올바르게 보여주며 이를 답변으로 요약하지만, 관찰 연구와 무작위 시험의 증거를 구분하지 않는다고 말합니다.

기능이 정보를 혼동할 때 오정보의 또 다른 층이 추가됩니다. 예를 들어, “녹차에는 항산화제가 포함되어 있으며, 이는 암을 예방하는 데 도움이 됩니다.” 전자는 사실이지만, 후자는 임상적으로 입증되지 않았습니다. 이러한 주장들이 함께 나열되면 신뢰할 수 있는 것처럼 잘못된 인상을 줍니다.

Google은 AI 개요를 제한했습니다

AI 출시를 지켜보는 전문가들은 건강 관련 AI 검색 결과에 접근할 때 신중할 것을 권고합니다. 일부 답변 하단에 있는 “본 정보는 참고용입니다.” 라는 주의 사항을 잘 읽어보라고 조언합니다. 뉴욕타임스 보도에 따르면 생성형 AI는 아직 실험 단계에 있으며, 심각한 건강 상태일 경우 의사와 상담해야 합니다.

또한 읽기: Google 핵심 알고리즘 업데이트와 AI 개요가 출판사의 트래픽을 감소시키고 있습니다

5월 30일 성명에서 Google은 일부 카테고리에서 AI 개요의 사용을 줄였다고 밝혔습니다. SEO 기업인 Brightedge의 데이터는 Google의 입장을 뒷받침하며, 이 감소는 회사의 발표 이전부터 시작되었음을 시사합니다. 

다른 보고서들도 Google이 네티즌들이 nonsensical한 답변으로 조롱하기 시작하기 전에 이미 특정 카테고리에 대한 AI 개요를 축소하기 시작했다고 말합니다. 그럼에도 불구하고 건강 카테고리는 여전히 높은 수의 AI 개요를 표시한다는 주장이 있습니다. 니브스는 말합니다.

“저는 또한 건강 분야에서 여전히 많은 AI 개요가 생성되고 있음을 발견한 다른 SEO 연구원들과 이야기했습니다.”

니브스는 일부 건강 관련 쿼리를 테스트했으며 시도한 지 몇 시간 내에 다른 결과를 발견했으며, 이는 Google이 결과를 개선하기 위해 노력하고 있음을 보여준다고 말했습니다. 그녀는 “좋아요, 그들은 노력하고 있습니다. 그들이 충분히 잘하고 있는지 저는 모르겠지만, 분명히 노력하고 있죠.”라고 말했습니다.


Aamir Sheikh가 Cryptopolitan에서 보도

이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.

이 기사 공유하기

면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.

아미르 셰이크

아미르 셰이크

아미르는 암호화폐 및 테크 산업에서 약 6 년간의 경험을 가진 기술 저널리스트입니다. 그는 MAJ 대학교에서 재무 및 마케팅 MBA 학위를 취득했으며, 현재 Cryptopolitan 에서 근무하며 암호화폐 시장의 최신 동향과 가격 예측을 보도하고 있습니다.

더 많은 뉴스 …