구글의 AI 개요 기능이 부정확한 결과로 비판에 직면해 있습니다

구글이 최근 검색에 도입한 "AI 개요" 기능이 받고 있습니다 . 사용자들은 AI가 생성한 요약 정보가 다양한 검색어에 대해 비논리적이거나 잘못된 답변을 제공하는 사례를 다수 제보했으며, 해당 기능을 비활성화할 방법도 없는 것으로 알려졌습니다. 

관련 기사: 구글 검색 환경 개선을 목표로 하는 새로운 크롬 확장 프로그램

최근 사례로는 요리법과 건강 관련 권장 사항에 대한 의심스러운 조언이 거세게 퍼져나가며 소셜 미디어에서 조롱거리가 된 경우가 있습니다.

사용자들이 AI Overview의 잘못된 답변들을 폭로했습니다

새로운 기능인 AI 개요는 출시된 지 2주도 채 되지 않았으며, 사용자가 입력한 질문에 대한 간략한 개요를 제공하도록 설계되었습니다. 예를 들어, 가죽 부츠 세척 방법을 검색하면 여러 웹사이트의 정보가 함께 표시될 수 있습니다. 그러나 일부 사용자는 이 도구가 부정확하거나 잠재적으로 위험한 권장 사항을 제공할 수 있다고 보고했습니다.

관련 기사: 구글의 새로운 AI 검색 기능이 웹사이트 트래픽에 악영향을 미칠까? - 출판사들 우려 제기

인공지능이 저지른 또 다른 실수는 미국에 무슬림dentdent몇 명이나 있었는지 묻는 질문에 "미국에는 버락 후세인 오바마 한 명만 있었다"라고 답한 것이다. 

또 다른 조언은 피자 소스를 만들 때 치즈가 미끄러지지 않도록 접착제를 사용하라는 것이었습니다. 이 권장 사항은 레딧 댓글에서 유래한 것으로 밝혀져 AI가 신뢰할 수 없는 출처에서 정보를 얻을 가능성이 제기되었습니다.  

그 밖에도 태양을 직접 바라보는 것이 건강에 좋다거나 사람들이 매일 식단에 돌을 포함시켜야 한다는 등의 황당한 주장들이 있었습니다. 지적된 문제점으로는 과일 종류를 잘못 열거하거나 역사적 날짜를 잘못 계산하는 등의 사소한 오류들이 있습니다.

출처 오표기는 신뢰할 수 있는 정보원의 신뢰도를 떨어뜨린다

AI Overview는 신뢰할 만한 출처의 정보를 잘못 인용했다는 비판도 받았습니다. 예를 들어 다음과 같이 주장했습니다

"웹엠디(WebMD)에 따르면, 과학자들은 5~15분 동안, 피부색이 어두운 사람의 경우 최대 30분 동안 태양을 응시하는 것이 일반적으로 안전하며 가장 많은 건강상의 이점을 제공한다고 말합니다."

이러한 잘못된 출처 표기는 높은 명성을steem기관의 평판을 손상시킬 수 있으며, 일반 대중에게 잠재적으로 위험할 수 있습니다. 구글 검색이 반독점법을 위반하는지 여부에 대한 질문에 AI Overview는 다음과 같이 답변했습니다

"네, 미국 법무부와 11개 주가 구글을 반독점법 위반으로 고소했습니다."

구글 대변인 메간 판스워스는 라고 밝혔습니다 . 그녀는 오류가 드문 검색어에서 나타났으며, 구글은 콘텐츠 정책 위반 사항을 시정하기 위해 적극적으로 노력하고 있다고 덧붙였습니다. 이러한 해명에도 불구하고, 이번 논란은 인공지능 기술의 확산과 관련된 더 큰 문제들에 대한 의문을 제기하고 있습니다.

제미니 이미지 생성 도구 실패 사태와 유사한 사례들이 속속 드러나고 있다

AI 개요를 둘러싼 논란은 구글의 제미니 이미지 생성 도구가 2월 출시 직후 겪었던 문제와 유사합니다. 당시에도 동일한 오해와 의심스러운 결과로 인해 문제가 제기되었는데, 역사적 사실을 잘못 표현하거나 사용에 부적합한 스케치를 생성하는 등의 문제가 있었습니다. 이로 인해 구글은 해당 도구의 운영을 중단하고 개선 작업에 착수했습니다.

구글, 마이크로소프트, 오픈 AI와 같은 주요 기업들이 참여하고 있어 생성형 AI 분야의 경쟁은 매우 치열합니다. 인공지능 도구 및 에이전트 시장은 향후 10년 안에 1조 달러 이상 규모로 성장할 것으로 예측됩니다. 이러한 치열한 경쟁 속에서 신제품 출시 압박으로 인해 미성숙한 기술이 시장에 남용될 가능성도 있습니다.

관련 기사: 구글, 오픈아이(OpenAI)를 포함한 13개 기업이 위험한 AI 모델을 배포하지 않겠다고 약속

구글은 세계에서 가장 인기 있는 검색 엔진이기 때문에 비판에 매우 취약합니다. 현재 구글의 검색 엔진은 전 세계 시장 점유율의 90% 이상을 차지하고 있으며, 이는 검색 엔진의 효율성이 사용자 만족도와 회사의 사업 모델에 결정적인 영향을 미친다는 것을 의미합니다.