Google beschränkt KI-Zusammenfassungen für satirische und unsinnige Suchanfragen

Google reduziert die Darstellung von KI-Zusammenfassungen (AI Overviews) in einigen Suchergebnissen. Die Entscheidung fiel, nachdem der Suchriese einige öffentlichkeitswirksame Fehler gemacht hatte, die zu einer öffentlichen Ablehnung im Internet führten.

Am Donnerstag gab Liz Reid, Head of Google Search, zu, dass das Unternehmen die von KI generierten Zusammenfassungen, die als „AI Overviews“ bezeichnet werden, einschränkt. Die KI-gestützte Funktion wurde kritisiert, als sie Inhalte zeigte, die Menschen rieten, Steine zu essen und Käse auf ihre Pizza zu kleben.

Auch lesen: Google, OpenAI und 13 weitere Unternehmen verpflichten sich, keine riskanten KI-Modelle einzusetzen

Google zeigte seinen Nutzern in den USA zwei Wochen nach der jährlichen I/O-Veranstaltung, auf der mehrere KI-basierte Angebote vorgestellt wurden, zum ersten Mal AI Overviews. Ab Donnerstag bemerkten die Nutzer weniger Fragen, was zu einer KI-Antwort führte.

Das Erkennen gefälschter AI Overviews erfordert sorgfältige Analyse

Reid schrieb in einem Blogbeitrag, dass Menschen in den sozialen Medien Screenshots von AI Overviews teilten, die seltsame Lösungen vorschlugen. Sie sagte, die KI des Unternehmens habe einige Fehler gemacht, aber viele seien gefälscht und niemals vom KI-System von Google generiert worden.

Sie gab zu, dass einige seltsame oder ungenaue AI Overviews sicherlich angezeigt wurden. Sie hob die Bereiche hervor, in denen die Funktion verbessert werden muss, betonte jedoch, dass es sich dabei nicht um häufig gesuchte Suchanfragen handelt. Im Hinblick auf die gefälschten Beispiele sagte sie:

„Unabhängig davon wurden eine große Anzahl gefälschter Screenshots weit verbreitet. Einige dieser gefälschten Ergebnisse waren offensichtlich und albern.“

Reid sagte, Google habe keine KI-Zusammenfassungen für Themen wie Rauchen während der Schwangerschaft oder das Zurücklassen von Hunden in Autos angezeigt. Sie ermutigte Nutzer, die diese Screenshots in den sozialen Medien sahen, selbst zu suchen und dies zu überprüfen.

Googles KI kann nun satirische Inhalte identifizieren

Google identifizierte, dass satirische Inhalte und unsinnige Suchanfragen Bereiche sind, die angegangen werden müssen, um ungenaue AI Overviews zu vermeiden. Google sagte, dass vor dem viralen Going der Screenshots der Suchanfrage „Wie viele Steine sollte ich essen?“ niemand diese Frage gestellt habe. Reid verwies auf Google Trends zur Bestätigung.

Auch lesen: Opera integriert Googles Gemini-Modelle zur Verbesserung der Aria-Browser-KI

Ein weiterer Faktor ist, dass sehr wenig Inhalt zu einem bestimmten Thema verfügbar ist, was als Datenlücke (data void) bekannt ist und ebenfalls ein Grund für ungenaue AI Overviews ist. In Bezug auf die Suchanfrage nach dem Essen von Steinen sagte Reid, dass der satirische Charakter des Inhalts den AI Overview ausgelöst habe. Der Inhalt wurde auch von einer Website für geologische Software neu veröffentlicht, auf die der AI Overview verlinkte. Sie klärte auf:

„Wenn also jemand diese Frage in die Suche eingab, erschien ein AI Overview, der treu zu einer der wenigen Websites verlinkte, die sich mit der Frage befassten.“

Reid erwähnte die anderen AI Overviews, die in den sozialen Medien im Umlauf waren, nicht, und viele große Verlage veröffentlichten Berichte darüber. Zum Beispiel veröffentlichte The Washington Post einen Bericht über Google, der behauptete, Barack Obama sei Muslim. Die Publikation berichtete auch von einem anderen Vorfall, in dem der Google AI Overview einem Nutzer sagte, er solle Urin trinken, um Nierensteinen zu helfen.

Google hat eine Obsession mit öffentlichen Foren

Der Leiter der Google-Suche bemerkte, dass das Unternehmen die Funktion vor der Veröffentlichung für die Öffentlichkeit ausgiebig getestet habe. Sie gab auch zu, dass die Nutzung in der realen Welt in der Testphase schwer zu simulieren sei, das Unternehmen jedoch robuste Red-Teaming-Tests und Stichproben typischer Nutzersuchanfragen durchgeführt habe. 

Auch lesen: Googles AI Overview-Funktion steht wegen ungenauer Ergebnisse in der Kritik

Einige Nutzer und Internet-Content-Analysten stellen fest, dass Google kürzlich begonnen hat, viele Ergebnisse aus öffentlichen Foren wie Reddit anzuzeigen. Einige hinterfragen den Deal von Google mit Reddit, aber ein Google-Sprecher sagte gegenüber der BBC, dass solche Konditionen nicht Teil der Vereinbarung waren, um Reddit mehr Sichtbarkeit in den Suchergebnissen zu geben.

Lily Ray, Vice President für SEO-Strategie und Forschung bei Amsive, einer Marketing-Agentur, sagt, dass jetzt viele Suchanfragen Ergebnisse von Reddit anzeigen. Sie verspottete Google auch in einem X-Post (ehemals Twitter) und sagte, das gesamte Wissen der Welt (Reddit-Inhalte) werde mit KI kombiniert.

Meine Damen und Herren, das gesamte Wissen der Welt, kombiniert mit der Kraft der KI und einem Reddit-Troll. pic.twitter.com/jhzT2pGXjh

— Lily Ray 😏 (@lilyraynyc) Mai 21, 2024

Reid sagte, dass die AI Overviews-Funktion in einigen Beispielen satirische Inhalte aus Diskussionsforen anzeige. Sie sagte, Foren seien eine gute Quelle für Informationen aus erster Hand, aber in einigen Fällen könnten sie nicht so hilfreiche Antworten auslösen, wie das Kleben von Käse auf Pizza.

Googles KI interpretiert auch Sprache falsch, was zu falschen Informationen in AI Overviews führt, aber das Verhältnis solcher Antworten ist laut Unternehmen sehr gering. Reid bemerkte, dass sie die Probleme schnell durch Verbesserungen oder durch das Entfernen von Antworten, die nicht mit Googles Richtlinien übereinstimmten, behoben hätten.

Der VP von Google Search sagte auch, dass strenge Schutzvorkehrungen für Themen wie Gesundheit und Nachrichten bestehen. Das Unternehmen hat neue Auslöser-Verfeinerungen für verbesserte Qualitätsschutzmaßnahmen für die Gesundheit eingeführt. Reid sagte, dass das Erkennungssystem auch für unsinnige Suchanfragen aktualisiert wurde, um diese nicht als AI Overviews anzuzeigen. Sie deutete auch die Bestätigung weniger AI Overviews für satirische Suchanfragen an und sagte: „Wir haben unsere Systeme aktualisiert, um die Verwendung von nutzergenerierten Inhalten in Antworten zu begrenzen, die irreführende Ratschläge bieten könnten.“

Bericht von Cryptopolitan von Aamir Sheikh