Google beschränkt KI-Übersichten für satirische und unsinnige Suchanfragen

Google reduziert die Darstellung von KI-Übersichten in einigen Suchergebnissen. Diese Entscheidung fiel, nachdem dem Suchmaschinenriesen einige öffentlichkeitswirksame Fehler unterlaufen waren, die im Internet einen Sturm der Entrüstung auslösten.

Am Donnerstag räumte Liz Reid, die Leiterin der Google-Suche, ein, dass das Unternehmen die KI-generierten Zusammenfassungen, sogenannte „KI-Übersichten“, einschränkt. Die KI-gestützte Funktion geriet in die Kritik, als sie Inhalte anzeigte, die Nutzern rieten, Steine ​​zu essen und Käse auf ihre Pizza zu kleben.

Lesen Sie auch: Google, OpenAI und 13 weitere Unternehmen verpflichten sich, keine riskanten KI-Modelle einzusetzen.

Google begann vor zwei Wochen, nach seiner jährlichen I/O-Konferenz, seinen Nutzern in den USA KI-Übersichten anzuzeigen, auf der das Unternehmen mehrere KI-basierte Angebote vorstellte. Seit Donnerstag bemerken die Nutzer weniger Fragen, die automatisch mit einer KI beantwortet werden.

dentIdentifizierung gefälschter KI-Übersichten erfordert eine sorgfältige Analyse

Reid schrieb in einem Blogbeitrag, dass in sozialen Medien Screenshots von KI-Übersichten geteilt wurden, die merkwürdige Lösungen vorschlugen. Sie erklärte, die KI des Unternehmens habe zwar einige Fehler gemacht, viele davon seien aber gefälscht und niemals vom KI-System von Google generiert worden.

Sie räumte ein, dass einige merkwürdige oder ungenaue KI-Übersichten tatsächlich auftauchten. Diese hoben zwar die Bereiche hervor, in denen die Funktion verbessert werden müsse, doch handelte es sich dabei nicht um häufig gesuchte Inhalte. Zu den gefälschten Einträgen sagte sie:

„Darüber hinaus wurden zahlreiche gefälschte Screenshots weit verbreitet. Einige dieser gefälschten Ergebnisse waren offensichtlich und lächerlich.“

Reid erklärte, Google zeige keine KI-Übersichten zu Themen wie Rauchen in der Schwangerschaft oder das Zurücklassen von Hunden im Auto. Sie riet Nutzern, die diese Screenshots in sozialen Medien gesehen hatten, selbst danach zu suchen.

Googles KI kann jetzt satirische Inhaltedent

Googledent, dass satirische Inhalte und unsinnige Suchanfragen Bereiche darstellen, die im Hinblick auf die Erstellung ungenauer KI-Übersichten verbessert werden müssen. Laut Google stellte vor der viralen Verbreitung der Screenshots der Suchanfrage „Wie viele Steine ​​soll ich essen?“ niemand diese Frage. Reid erklärte, dass Google Trends dies bestätigen könne.

Lesen Sie auch: Opera integriert Googles Gemini-Modelle zur Verbesserung der KI des Aria-Browsers.

Ein weiterer Faktor ist die geringe Verfügbarkeit von Inhalten zu einem bestimmten Thema, auch bekannt als Datenlücke, was ebenfalls zu ungenauen KI-Übersichten führt. Bezüglich der Anfrage zum Thema „Gesteinsfresser“ erklärte Reid, dass der satirische Charakter des Inhalts die KI-Übersicht ausgelöst habe. Der Inhalt wurde zudem von einer Website für geologische Software erneut veröffentlicht, auf die die KI-Übersicht verlinkte. Sie stellte klar:

„Als also jemand diese Frage in die Suchleiste eingab, erschien eine KI-Übersicht, die direkt zu einer der wenigen Webseiten verlinkte, die sich mit dieser Frage befassten.“

Reid erwähnte die anderen KI-Übersichten, die in den sozialen Medien kursierten, nicht, und viele große Verlage berichteten ebenfalls darüber. So veröffentlichte beispielsweise die Washington Post einen Bericht darüber, dass Google behauptet hatte, Barack Obama sei Muslim. Die Zeitung berichtete auch über einen weiteren Fall, in dem die Google-KI-Übersicht einem Nutzer empfahl, Urin zu trinken, um Nierensteine ​​auszuscheiden.

Google ist besessen von öffentlichen Foren

Googles Suchchefin merkte an, dass das Unternehmen die Funktion vor der öffentlichen Freigabe ausgiebig getestet habe. Sie räumte außerdem ein, dass sich die tatsächliche Nutzung in der Testphase nur schwer simulieren lasse, das Unternehmen habe aber umfassende Red-Teaming-Tests durchgeführt und typische Nutzeranfragen stichprobenartig analysiert. 

Lesen Sie auch: Googles KI-Übersichtsfunktion stößt wegen ungenauer Ergebnisse auf Kritik.

Einige Nutzer und Internet-Inhaltsanalysten haben festgestellt, dass Google seit Kurzem vermehrt Ergebnisse aus öffentlichen Foren wie Reddit anzeigt. Manche hinterfragen die Vereinbarung des Unternehmens mit Reddit, doch ein Google-Sprecher erklärte gegenüber der BBC, dass solche Klauseln, die Reddit eine stärkere Sichtbarkeit in den Suchergebnissen einräumen würden, nicht Teil der Vereinbarung seien.

Lily Ray,dent für SEO-Strategie und -Forschung bei der Marketingagentur Amsive, erklärt, dass viele Suchanfragen mittlerweile Ergebnisse von Reddit liefern. In einem Beitrag auf Twitter (ehemals X) spottete sie außerdem über Google und behauptete, das gesamte Wissen der Welt (Reddit-Inhalte) werde mit KI kombiniert.

Meine Damen und Herren, das gesamte Wissen der Welt, vereint mit der Macht der KI und einem Reddit-Troll. pic.twitter.com/jhzT2pGXjh

— Lily Ray 😏 (@lilyraynyc) 21. Mai 2024

Reid erklärte, dass die KI-Übersichten in einigen Beispielen sarkastische Inhalte aus Diskussionsforen enthalten. Foren seien zwar eine gute Quelle für Informationen aus erster Hand, könnten aber in manchen Fällen zu wenig hilfreichen Antworten führen, etwa zum Beispiel dazu, Käse auf Pizza zu kleben.

Googles KI interpretiert Sprache zwar auch falsch, was zu fehlerhaften Informationen in den KI-Übersichten führt, doch der Anteil solcher Antworten ist laut Unternehmen sehr gering. Reid merkte an, dass die Probleme schnell durch Verbesserungen oder durch das Entfernen von Antworten, die nicht den Google-Richtlinien entsprachen, behoben wurden.

Die Vizepräsidentin von Google Search erklärte außerdem, dasstronSchutzmechanismen existieren. Das Unternehmen hat neue Auslösemechanismen eingeführt, um die Qualität der Gesundheitsinformationen zu verbessern. Reid sagte, das Erkennungssystem sei auch für unsinnige Suchanfragen aktualisiert worden, um diese nicht als KI-Übersichten anzuzeigen. Sie deutete zudem an, dass es künftig weniger KI-Übersichten für satirische Suchanfragen geben werde: „Wir haben unsere Systeme aktualisiert, um die Verwendung nutzergenerierter Inhalte in Antworten einzuschränken, die irreführende Ratschläge geben könnten.“

Cryptopolitan Berichterstattung von Aamir Sheikh