AKTUELLE NACHRICHTEN
FÜR SIE AUSGEWÄHLT

Gesundheitssuchfehler in Google AI Overviews wecken Bedenken

VonAamir SheikhAamir Sheikh 3 Min. Lesezeit
Gesundheitsbezogene Suchanfragen lösen vermehrt KI-Zusammenfassungen in der Google-Suche aus

Google IA Overviews

  • Gesundheitsbezogene Fragen führen zu mehr KI-Zusammenfassungen, was Analysten besorgt.
  • Ärzte sagen, dass das Mischen von Fakten aus verschiedenen Quellen weniger glaubwürdigen Statistiken mehr Glaubwürdigkeit verleiht.
  • Einige Analysten argumentieren, dass Google daran arbeitet, seine AI Overviews zuverlässiger zu machen.

Google nutzt künstliche Intelligenz, um Abfragen zu Gesundheitsproblemen zu beantworten. Einige Analysten finden dies besorgniserregend, da die Funktion „KI-Übersichten“ möglicherweise unzuverlässige Informationen liefert.

Mediziner sagen, dass KI-Übersichten ein Problem darstellen können, insbesondere bei der Beantwortung persönlicher Gesundheitsabfragen. Sie argumentierten, dass die Funktion das Potenzial hat, ungenaue Informationen zu verbreiten, obwohl sie auch Menschen zu erforderlichen medizinischen Behandlungen führen kann, so ein kürzlicher Bericht der New York Times.

Fehler bei der KI-Übersuche schürt Stimmungen über KI-Halluzinationen

Google führte KI-Übersichten ein, eine Funktion, die Zusammenfassungen von Inhalten von Websites generiert und diese auf der Google-Suchergebnisseite anzeigt. Innerhalb weniger Tage nach der Einführung zeigte die Funktion eine breite Palette von Ungenauigkeiten, da sie ihre Antworten auf fehlerhafte Quellen stützte. Ein Vorfall, der die Stimmung weiter befeuert, dass KI anfällig für Halluzinationen ist und faktisch falsche Informationen generieren kann.

Auch lesen: Google beschränkt KI-Übersichten für satirische und unsinnige Abfragen

Gesundheitsbezogene Suchergebnisse, die eine tägliche Dosis Rockmusik verabreichen oder Benutzer auffordern, geklebte Pizzen zu essen, haben einen Aufschrei ausgelöst. KI-Übersichten zitieren zwar Quellen wie die Weltgesundheitsorganisation, WebMD, PubMed und die Mayo Clinic. Sie sind jedoch nicht auf diese Quellen beschränkt. Analysten sagen, dass das Informationen aus Reddit, Wikipedia, verschiedenen Blogs und E-Commerce-Websites zieht.

Hema Budaraju, eine leitende Direktorin für Produktmanagement bei Google, sagte, dass es zusätzliche Schutzmaßnahmen für gesundheitsbezogene Abfragen gibt, verweigerte es jedoch, weitere Details preiszugeben. Hema fügte hinzu, dass einige Abfragen keine KI-Übersichten auslösen, zum Beispiel, wenn das System eine Selbstverletzungssituation erkennt.

Google sagte, dass KI-Übersichten mit dem Google Knowledge Graph integriert sind, einer Wissensdatenbank, die Daten aus mehreren Quellen zieht, lieferte jedoch keine Details zu den Websites, die die Ausgabe der KI-unterstützten Suchfunktion unterstützen.

Google zeigt mehr KI-Übersichten für Gesundheitsabfragen

Die traditionellen Ergebnisse, oft als „zehn blaue Links“ bezeichnet, waren für Benutzer hilfreich, da sie zwischen vertrauenswürdigen medizinischen Quellen und bezahlten Links oder weniger glaubwürdigen Websites unterscheiden konnten. Mit KI-Übersichten hat sich die Situation geändert. Jetzt zeigt ein einzelner Textblock Informationen, die aus verschiedenen Quellen gesammelt wurden, was laut Analysten zu Verwirrung führt.

Kate Knibbs von Wired sagte in einem Podcast:

„Wenn Sie etwas zu Asthma eingeben oder ob ich Diabetes habe oder im Grunde nach irgendetwas suchen, das Krankheiten betrifft, werden Sie heutzutage sehr wahrscheinlich immer noch eine KI-Übersicht sehen. Ich meine, es betrifft nicht jeden; es sind immer noch etwa 63 Prozent. Und ich denke, es hängt davon ab.“

Einige Ärzte, wie Dr. Dariush Mozaffarian, sagen, dass KI-Übersichten einige korrekte Fakten zeigen und diese zu Antworten zusammenfassen, aber sie unterscheiden nicht zwischen Evidenz aus Beobachtungsstudien und randomisierten Studien.

Eine weitere Schicht der Desinformation wird hinzugefügt, wenn die Funktion Informationen durcheinander bringt. Zum Beispiel: „Grüner Tee enthält Antioxidantien und hilft, Krebs vorzubeugen.“ Während das Erstere wahr ist, wurde das Letztere klinisch nicht bewiesen. Wenn solche Behauptungen zusammen aufgelistet werden, erwecken sie den falschen Eindruck, dass sie glaubwürdig sind.

Google hat KI-Übersichten eingeschränkt

Beobachter der KI-Einführung raten zur Vorsicht beim Umgang mit gesundheitsbezogenen KI-Suchergebnissen. Sie sagen, dass Benutzer die Kleingedruckten Hinweise unter einigen Antworten beachten sollten, die besagen, „Dies dient nur zu Informationszwecken.“ Die NYTimes berichtete, dass generative KI sich noch in der experimentellen Phase befindet und Benutzer bei ernsthaften Erkrankungen Ärzte konsultieren sollten.

Auch lesen: Google-Kernalgorithmus-Updates und KI-Übersichten reduzieren den Traffic von Verlegern

In einer Erklärung am 30. Mai sagte Google, dass es die Nutzung von KI-Übersichten in einigen Kategorien reduziert habe. Daten eines SEO-Unternehmens, Brightedge, bestätigen Googles Position und deuten darauf hin, dass die Kürzungen bereits vor der Ankündigung des Unternehmens begonnen hatten. 

Andere Berichte sagen auch, dass Google begann, KI-Übersichten für bestimmte Kategorien zurückzufahren, noch bevor Internetnutzer begannen, sich über unsinnige Antworten lustig zu machen. Dennoch gibt es Behauptungen, dass die Kategorie Gesundheit weiterhin eine hohe Anzahl von KI-Übersichten zeigt. Knibbs sagt:

„Ich habe mit einigen anderen SEO-Forschern gesprochen, die ebenfalls festgestellt haben, dass im Gesundheitswesen immer noch viele KI-Übersichten erzeugt werden.“

Knibbs sagt, dass sie einige gesundheitsbezogene Abfragen getestet hat und innerhalb weniger Stunden unterschiedliche Ergebnisse fand, was zeigt, dass Google daran arbeitet, die Ergebnisse zu verbessern. Sie sagte, „OK, sie versuchen es. Ich weiß nicht, ob sie das gut genug machen, aber sie versuchen es definitiv.“


Bericht von Cryptopolitan von Aamir Sheikh

Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.

Diesen Artikel teilen

Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.

Aamir Sheikh

Aamir Sheikh

Aamir ist Tech-Journalist mit fast sechs Jahren Erfahrung in der Krypto- und Technologiebranche. Er absolvierte sein Studium an der MAJ University mit einem MBA in Finanzen und Marketing. Heute arbeitet er für Cryptopolitan, wo er über die neuesten Entwicklungen in den Kryptowährungsmärkten und Preisprognosen berichtet.

MEHR … NACHRICHTEN