Googles kürzlich eingeführte Funktion „KI-Übersicht“ in der Google-Suche hat erhebliche Kritik hervorgerufen. Nutzer haben zahlreiche Fälle gemeldet, in denen die KI-Zusammenfassungen unlogische oder falsche Ergebnisse bei verschiedenen Suchanfragen lieferten, ohne dass es eine Möglichkeit gibt, den Dienst zu deaktivieren.
Lesen Sie auch: Neue Chrome-Erweiterungen sollen die Google-Sucherfahrung verbessern
Jüngste Beispiele hierfür sind zweifelhafte Ratschläge zu Kochpraktiken und Gesundheitsempfehlungen, die eine Welle der Kritik und des Spottes in den sozialen Medien auslösten.
Nutzer decken fehlerhafte Antworten der KI-Übersicht auf
Die neue Funktion „KI-Übersicht“ wurde vor weniger als zwei Wochen eingeführt und soll kurze Zusammenfassungen der gestellten Fragen liefern. Beispielsweise liefert die Suche nach der Reinigung von Lederstiefeln Anleitungen von verschiedenen Websites. Nutzer berichten jedoch, dass das Tool falsche und potenziell gefährliche Empfehlungen geben kann.
Lesen Sie auch: Wird Googles neue KI-Suche den Website-Traffic beeinträchtigen und Verlage beunruhigen?
Ein weiterer Fehler der KI war die Aussage, dass „die Vereinigten Staaten einen muslimischendenthatten, Barack Hussein Obama“, als gefragt wurde, wie viele muslimischedentdie USA gehabt hätten.
Ein weiterer Ratschlag , der potenziell schwerwiegende Folgen haben könnte, war die Verwendung von Klebstoff bei der Zubereitung von Pizzasauce, damit der Käse nicht abrutscht. Diese Empfehlung stammte, wie sich herausstellte, aus einem Reddit-Kommentar, was die Möglichkeit nahelegt, dass die KI Informationen aus unzuverlässigen Quellen bezieht.
Zu den weiteren haarsträubenden Empfehlungen gehörte die Behauptung, dass Sonnenbaden gesund sei und dass man täglich Steine essen solle. Auch einfache Fehler wie die falsche Zählung von Früchten und fehlerhafte Datumsangaben in der Geschichte wurden aufgedeckt.
Falsche Quellenzuordnung schädigt glaubwürdige Quellen
AI Overview wurde auch dafür kritisiert, zuverlässige Quellen mit falschen Informationen zu zitieren. Zum Beispiel wurde behauptet:
„Laut WebMD sagen Wissenschaftler, dass es im Allgemeinen sicher ist, 5 bis 15 Minuten lang in die Sonne zu schauen, oder bis zu 30 Minuten, wenn man eine dunklere Haut hat, und dass dies die meisten gesundheitlichen Vorteile bietet.“
Solche Fehlzuordnungen können den RufsteemInstitutionen schädigen und sind potenziell gefährlich für die Allgemeinheit. Auf die Frage, ob die Google-Suche gegen das Kartellrecht verstößt, antwortete AI Overview:
„Ja, das US-Justizministerium und elf Bundesstaaten verklagen Google wegen Verstößen gegen das Kartellrecht.“
Google-Sprecherin Meghann Farnsworth erklärte, die Fehler seien auf „im Allgemeinen sehr ungewöhnliche Suchanfragen zurückzuführen und nicht repräsentativ für die Erfahrungen der meisten Nutzer“. Sie betonte, die Fehler seien bei seltenen Suchanfragen aufgetreten und das Unternehmen arbeite aktiv daran, die Verstöße gegen die Inhaltsrichtlinien zu beheben. Trotz dieser Zusicherungen wirft die Kritik Fragen zu den grundsätzlichen Problemen der zunehmenden Verbreitung von KI-Technologien auf.
Parallelen zum Fiasko des Gemini-Bildgenerierungstools treten zutage
Die Kontroverse um AI Overview ähnelt den Problemen, mit denen Googles Bildgenerierungstool Gemini kurz nach seinem Start im Februar aufgrund derselben Fehlinterpretationen und zweifelhaften Ergebnisse zu kämpfen hatte. Zu den hervorgehobenen Problemen zählten falsche Darstellungen historischer Ereignisse und unbrauchbare Skizzen, was Google dazu veranlasste, den Betrieb des Tools einzustellen und an Verbesserungen zu arbeiten.
Der Wettbewerb im Bereich der generativen KI ist aufgrund der Präsenz von Anbietern wie Google, Microsoft und OpenAI intensiv. Prognosen zufolge wird der Markt für KI-Tools und -Agenten im nächsten Jahrzehnt ein Volumen von über einer Billion US-Dollar erreichen. Dieser starke Wettbewerb birgt die Gefahr, dass aufgrund des Drucks, ständig neue Produkte auf den Markt zu bringen, unausgereifte Technologien eingesetzt werden.
Lesen Sie auch: Google, OpenAI und 13 weitere Unternehmen verpflichten sich, keine riskanten KI-Modelle einzusetzen.
Google ist die weltweit beliebteste Suchmaschine und daher besonders angreifbar. Aktuell dominiert die Suchmaschine des Unternehmens mit über 90 % Marktanteil den globalen Markt, was bedeutet, dass ihre Effektivität entscheidend für die Zufriedenheit der Nutzer und das Geschäftsmodell des Unternehmens ist.
