Die Suchfehler in Google AI Overviews geben Anlass zur Sorge

Google nutzt künstliche Intelligenz, um Fragen zu Gesundheitsthemen zu beantworten. Einige Analysten sehen dies bedenklich, da die Funktion „KI-Übersichten“ möglicherweise unzuverlässige Informationen liefert.

Mediziner äußern Bedenken hinsichtlich KI-gestützter Übersichtsfunktionen, insbesondere bei der Beantwortung persönlicher Gesundheitsfragen. Laut einem Bericht der New York Times argumentieren sie, dass diese Funktion das Potenzial birgt, ungenaue Informationen zu liefern, obwohl sie Menschen auch zu notwendigen medizinischen Behandlungen führen kann.

KI-Übersichten: Suchfehler befeuern KI-Halluzinationen

Google führte die KI-Übersichten ein, eine Funktion, die Inhaltszusammenfassungen von Webseiten generiert und auf der Suchergebnisseite anzeigt. Bereits wenige Tage nach dem Start zeigte die Funktion zahlreiche Ungenauigkeiten, da sie ihre Ergebnisse auf fehlerhaften Quellen stützte. Dies bestärkt die Befürchtung, dass KI zu Fehlinterpretationen neigt und faktisch falsche Informationen generieren kann.

Lesen Sie auch: Google beschränkt KI-Übersichten auf satirische und unsinnige Anfragen.

Gesundheitsbezogene Suchergebnisse, die beispielsweise die tägliche Einnahme von Drogen empfehlen oder Nutzer zum Verzehr von verklebten Pizzen auffordern, haben einen Sturm der Entrüstung ausgelöst. KI-Übersichten zitieren zwar Quellen wie die Weltgesundheitsorganisation, WebMD, PubMed und die Mayo Clinic, beschränken sich aber nicht darauf. Analysten zufolge bezieht das Tool Informationen auch von Reddit, Wikipedia, verschiedenen Blogs und E-Commerce-Websites.

Hema Budaraju, leitende Produktmanagerin bei Google, erklärte, dass es zusätzliche Sicherheitsvorkehrungen für gesundheitsbezogene Anfragen gebe, lehnte es jedoch ab, weitere Details preiszugeben. Sie fügte hinzu, dass manche Anfragen keine KI-Übersichten auslösen, beispielsweise wenn das System eine Selbstverletzungssituation erkennt.

Google erklärte, dass AI Overviews in den Google Knowledge Graph integriert sei, eine Wissensdatenbank, die Daten aus verschiedenen Quellen enthält, nannte aber keine Details zu den Webseiten, die die Ausgabe der KI-gestützten Suchfunktion unterstützen.

Google zeigt mehr KI-Übersichten für Gesundheitsanfragen an

Die traditionellen Suchergebnisse, oft als „zehn blaue Links“ bezeichnet, waren für Nutzer hilfreich, da sie seriöse medizinische Quellen von bezahlten Links oder weniger glaubwürdigen Webseiten unterscheiden konnten. Mit den KI-Übersichten hat sich dies geändert. Nun werden Informationen aus verschiedenen Quellen in einem einzigen Textblock zusammengefasst, was laut Analysten zu Verwirrung führt.

Kate Knibbs von Wired sagte in einem Podcast:

„Wenn man etwas wie Asthma oder Diabetes eingibt oder generell nach Krankheiten sucht, wird einem bis heute sehr wahrscheinlich eine KI-Übersicht angezeigt. Nicht jeder, aber immer noch etwa 63 Prozent. Und ich denke, es kommt darauf an.“

Manche Ärzte, wie Dr. Dariush Mozaffarian, sagen, dass KI-Übersichten zwar einige Fakten korrekt darstellen und zu Antworten zusammenfassen, aber nicht zwischen Erkenntnissen aus Beobachtungsstudien und randomisierten Studien unterscheiden.

Eine weitere Ebene der Fehlinformation entsteht, wenn Informationen vermischt werden. Zum Beispiel: „Grüner Tee enthält Antioxidantien und hilft, Krebs vorzubeugen.“ Ersteres stimmt zwar, Letzteres ist jedoch klinisch nicht belegt. Werden solche Behauptungen zusammen aufgeführt, entsteht fälschlicherweise der Eindruck, sie seien glaubwürdig.

Google hat die KI-Übersichten eingeschränkt

Beobachter der KI-Einführung raten zur Vorsicht bei der Nutzung von KI-gestützten Suchergebnissen im Gesundheitsbereich. Sie empfehlen, das Kleingedruckte unter manchen Antworten zu beachten, beispielsweise den Hinweis: „Diese Informationen dienen ausschließlich Informationszwecken.“ Der Bericht merkt an, dass sich generative KI noch in der experimentellen Phase befindet und Nutzer bei ernsthaften Beschwerden einen Arzt konsultieren sollten. 

Lesen Sie auch: Googles Kernalgorithmus-Updates und KI-Übersichten reduzieren den Traffic von Publishern.

In einer Stellungnahme vom 30. Mai erklärte Google, den Einsatz von KI-Übersichten in einigen Kategorien reduziert zu haben. Daten des SEO-Unternehmens Brightedge bestätigen Googles Aussage und legen nahe, dass die Reduzierung bereits vor der offiziellen Ankündigung begonnen hatte. 

Andere Berichte besagen, dass Google bereits vor den ersten Spottkommentaren über unsinnige Antworten im Netz damit begonnen hatte, die KI-Übersichten für bestimmte Kategorien zurückzufahren. Dennoch gibt es Behauptungen, dass in der Kategorie Gesundheit weiterhin eine hohe Anzahl an KI-Übersichten angezeigt wird. Knibbs sagt dazu:

„Ich habe mit einigen anderen SEO-Forschern gesprochen, die ebenfalls festgestellt haben, dass im Gesundheitswesen immer noch viele KI-Übersichten veröffentlicht werden.“

Knibbs berichtet, dass sie einige gesundheitsbezogene Suchanfragen getestet und innerhalb weniger Stunden unterschiedliche Ergebnisse erhalten habe, was zeige, dass Google an der Verbesserung der Suchergebnisse arbeite. Sie sagte: „Okay, sie bemühen sich. Ich weiß nicht, ob sie gute Arbeit leisten, aber sie defi.“

Cryptopolitan Berichterstattung von Aamir Sheikh