구글의 AI 개요 기능이 부정확한 결과로 인해 반발을 사고 있습니다

구글의 최근 출시된 'AI 개요' 기능 은 심각한 비판을 받았습니다. 사용자는 AI 요약을 생성하여 다양한 검색에 대해 비논리적 또는 잘못된 응답을 생성한 수많은 사례를 게시했으며, 서비스를 비활성화할 방법이 없습니다. 

또한 읽기: 새로운 Chrome 확장 프로그램, Google 검색 경험 개선 목표

최근 예에는 요리 관행과 건강 권장 사항에 대한 의문스러운 조언이 포함되어 있어 비판의 물결과 소셜 미디어의 조롱을 불러일으켰습니다.

사용자들이 AI 개요의 결함 있는 응답을 폭로

새로운 기능인 AI 개요는 불과 2주 전에 출시되었으며, 질문의 간단한 개요를 제공하도록 설계되었습니다. 예를 들어, 가죽 부츠를 청소하는 방법에 대한 검색은 다양한 웹사이트에서 출처를 가져온 지침을 제공할 수 있습니다. 그러나 사용자는 이 도구가 잘못되고 잠재적으로 위험한 권장 사항을 제공할 수 있다고 보고했습니다.

또한 읽기: 구글의 새로운 AI 검색이 웹사이트 트래픽을 해칠까, 출판사들의 우려는?

AI가 저지른 또 다른 실수는 미국에 무슬림 대통령이 몇 명 있었는지 묻자 

치즈가 미끄러지지 않도록 피자 소스를 준비할 때 풀을 사용하는 것과 같이 잠재적으로 심각한 피해를 초래할 수 있는 또 다른 조언이 있었습니다. 이 권장 사항이 레딧 댓글에서 비롯된 것으로 밝혀지면서 AI가 신뢰할 수 없는 출처에서 정보를 수집했을 가능성이 제기되었습니다.

기타 불쾌한 권장 사항에는 태양을 응시하는 것이 건강에 좋다는 주장과 사람들이 매일 식단에 돌을 포함해야 한다는 주장이 포함되었습니다. 지적된 문제 중에는 과일의 잘못된 열거와 역사적 날짜의 잘못된 계산과 같은 단순한 실수도 포함됩니다.

잘못된 귀속이 신뢰할 수 있는 출처의 평판을 훼손

AI 개요는 잘못된 정보로 신뢰할 수 있는 출처를 잘못 인용했다는 비판도 받았습니다. 예를 들어 다음과 같이 주장했습니다.

,

이러한 잘못된 귀속은 매우 존경받는 기관의 평판을 해칠 수 있으며 일반 대중에게 잠재적으로 위험할 수 있습니다. 구글 검색이 반독점법을 위반하는지 묻자 AI 개요는 다음과 같이 말했습니다.

,

구글 대변인 Meghann Farnsworth 는 실수가

Gemini 이미지 생성 도구 파국과의 유사점 부상

AI 개요에 대한 논란은 2월 출시 직후 동일한 오해와 의문스러운 결과로 인해 구글의 Gemini 이미지 생성 도구가 직면한 문제와 유사합니다. 강조된 문제 중에는 역사의 잘못된 표현과 사용에 적합하지 않은 스케치가 포함되어 있어 구글이 도구 운영을 중단하고 개선 작업을 진행하게 했습니다.

구글, 마이크로소프트, 오픈 AI와 같은 플레이어가 존재하여 생성형 AI 공간의 경쟁은 치열합니다. 인공 지능 도구 및 에이전트의 시장은 향후 10년 내에 1조 달러 이상의 규모에 도달할 것으로 예측됩니다. 이러한 치열한 경쟁은 새로운 제품을 출시해야 한다는 압력으로 인해 성숙하지 않은 기술이 시장에 사용될 수 있습니다.

또한 읽기: Google, OpenAI 및 기타 13개사, 위험한 AI 모델 배포 금지 약속

구글은 세계에서 가장 인기 있는 검색 엔진이며, 이는 비판에 매우 취약하게 만듭니다. 현재 회사의 검색 엔진은 전 세계 시장 점유율의 90% 이상을 장악하고 있어, 그 효과성은 사용자 만족도와 회사의 비즈니스 모델에 결정적입니다.