구글 AI 개요의 건강 관련 검색 오류가 우려를 불러일으키고 있습니다

구글은 인공지능을 활용해 건강 관련 질문에 답변하고 있습니다. 일부 분석가들은 인공지능 개요 기능이 신뢰할 수 없는 정보를 제공할 수 있다는 점에서 우려를 표하고 있습니다.

의료 전문가들은 AI 개요 기능이 특히 개인 건강 관련 질문에 답변할 때 우려를 불러일으킬 수 있다고 말합니다. 뉴욕 타임스의 최근 보도에 따르면, 이 기능은 필요한 의료 치료를 안내하는 데 도움이 될 수 있지만, 부정확한 정보를 제공할 가능성도 있다고 주장했습니다.

AI 개요 검색 오류가 AI에 대한 환상적 감정을 부추긴다

구글은 웹사이트 콘텐츠 요약을 생성하여 검색 결과 페이지에 표시하는 기능인 AI 개요를 도입했습니다. 그러나 출시 후 며칠 만에 이 기능은 결함 있는 출처에 기반한 답변으로 인해 광범위한 오류를 드러냈습니다. 이는 AI가 잘못된 정보를 생성할 수 있고, 착각에 빠지기 쉽다는 우려를 더욱 증폭시키는 사례입니다.

관련 기사: 구글, 풍자적이고 무의미한 검색어에 대한 AI 개요 검색 제한

건강 관련 검색 결과에서 매일 암석을 복용하라고 하거나 접착제로 붙인 피자를 먹으라고 권하는 등의 내용이 논란을 불러일으켰습니다. AI Overviews는 세계보건기구(WHO), WebMD, PubMed, 메이요 클리닉 등의 출처를 인용하지만, 이러한 출처에만 국한되지는 않습니다. 분석가들은 이 도구가 레딧, 위키피디아, 다양한 블로그, 전자상거래 사이트 등에서도 정보를 가져온다고 지적합니다.

구글의 선임 제품 관리 이사인 헤마 부다라주는 건강 관련 문의에 대해서는 추가적인 안전장치가 마련되어 있다고 밝혔지만, 자세한 내용은 공개하지 않았습니다. 그녀는 또한 시스템이 자해 상황을 감지하는 경우와 같이 일부 문의는 AI 개요를 표시하지 않는다고 덧붙였습니다.

구글은 AI Overviews가 여러 소스에서 가져온 데이터를 포함하는 지식 기반인 구글 지식 그래프와 통합된다고 밝혔지만, AI 기반 검색 기능의 결과물을 지원하는 웹사이트에 대한 자세한 정보는 제공하지 않았습니다.

구글은 건강 관련 검색어에 대한 AI 개요를 더 많이 보여줍니다

흔히 "파란색 링크 10개"로 표시되는 기존 검색 결과는 사용자가 신뢰할 수 있는 의료 정보 출처와 유료 링크 또는 신뢰도가 낮은 웹사이트를 구분하는 데 도움이 되었습니다. 하지만 AI 개요(AI Overviews)에서는 상황이 달라졌습니다. 이제 하나의 텍스트 블록에 여러 출처의 정보가 표시되는데, 분석가들에 따르면 이는 혼란을 야기합니다.

Wired의 케이트 니브스는 팟캐스트.

"천식이나 당뇨병 같은 질병 관련 검색어를 입력하면, 오늘날에도 여전히 AI 개요를 보게 될 가능성이 매우 높습니다. 모든 사용자가 그런 건 아니지만, 약 63% 정도는 그렇습니다. 그리고 이는 사용자마다 다를 수 있다고 생각합니다."

와 같은 일부 의사들은 다리우시 모자파리안 박사AI 개요가 일부 정확한 사실을 보여주고 이를 요약하여 답변을 제공하지만, 관찰 연구와 무작위 대조 시험에서 얻은 증거를 구분하지 못한다고 말합니다.

정보가 뒤섞일 때 또 다른 형태의 오해가 발생합니다. 예를 들어, "녹차에는 항산화 물질이 함유되어 있어 암 예방에 도움이 된다"는 주장이 있습니다. 전자는 사실이지만 후자는 임상적으로 입증되지 않았습니다. 이러한 주장들을 함께 나열하면 마치 신뢰할 만한 사실인 것처럼 잘못된 인상을 줄 수 있습니다.

구글은 AI 개요 기능을 제한했습니다

AI 도입을 지켜보는 사람들은 건강 관련 AI 검색 결과에 접근할 때 주의를 기울여야 한다고 조언합니다. 일부 답변 아래에 "이 정보는 참고용으로만 제공됩니다"라는 문구가 있는 경우, 그 내용을 꼼꼼히 살펴봐야 한다는 것입니다. 뉴욕타임스 보도에 따르면 생성형 AI는 아직 실험 단계에 있으며, 심각한 질환이 있는 경우에는 반드시 의사와 상담해야 합니다. 

관련 기사: 구글 핵심 알고리즘 업데이트 및 AI 개요로 인해 게시자 트래픽이 감소하고 있습니다

구글은 5월 30일 성명에서 일부 카테고리에서 AI 개요 사용량을 줄였다고 밝혔습니다. SEO 전문 기업 브라이트엣지의 데이터는 구글의 입장을 뒷받침하며, 이러한 감축은 구글의 발표 이전부터 시작되었음을 시사합니다. 

다른 보고서에 따르면 구글은 네티즌들이 무의미한 답변에 대해 조롱하기 시작하기 전부터 특정 카테고리에 대한 AI 개요 기능을 줄이기 시작했다고 합니다. 그럼에도 불구하고 건강 카테고리에서는 여전히 많은 AI 개요가 표시되고 있다는 주장이 제기되고 있습니다. 니브스는 다음과 같이 말합니다

"다른 SEO 연구원들과 이야기를 나눠보니 그들도 의료 분야에서 여전히 AI 개요가 많이 나오고 있다는 사실을 발견했습니다."

크닙스는 건강 관련 검색어를 몇 가지 입력해 본 결과 몇 시간 만에 다른 결과가 나오는 것을 확인했는데, 이는 구글이 검색 결과 개선에 노력하고 있음을 보여준다고 말했습니다. 그녀는 "좋아요, 구글이 노력하고 있는 건 확실해요. 충분히 잘하고 있는지는 모르겠지만, 어쨌든 노력하고 있다는 건 defi."

아미르 셰이크의 Cryptopolitan 보도