Der beunruhigende Aufstieg von KI-Inhalten in der Suche

Als Google die fehlerhaften Infrastructure-as-Code-Ausgaben von Pulumi AI, einem KI-Entwickler, der einen Chatbot zur Erstellung von Vorlagen verwendet, indexierte, sahen wir diese künstlichen Entitäten ganz oben in den Google-Suchergebnissen erscheinen.

Der Aufstieg von KI-Inhalten

Die Geschichte von „Pullumi“ dreht sich darum, „die Ergebnisse einer kurzen Eingabe ihrer Nutzer zu verfassen, die auf ihrer Unterseite „KI-Antworten“ angezeigt werden“. Die Roboterantworten werden von den Google-Ranking-Crawlern hauptsächlich deshalb indexiert, weil die KI-Antworten oft fehlerhaft sind.

Arian van Putten zitierte Entwickler mit den Worten „Es ist passiert“ für ihren Social-Media-Beitrag am Wochenende. Das erste Google-Suchergebnis sollte das offizielle Pulumi-Handbuch mit LLM-Inhalten sein, das den Hinweis enthält, dass die vom LLM generierten Inhalte eine AWS-Funktion vortäuschen, die gar nicht existiert.

Wie der Registrar bereits 2022 feststellte, sind KI-generierte Inhalte vorhanden, deren Qualität jedoch in Frage gestellt wird. KI-generierte Inhalte werden von Suchmaschinen schneller indexiert und als oberster Inhalt in den Suchergebnissen angezeigt. 

Neben der Unterstützung der Funktionalität und der Inhalte von Pulumi AI und dessen KI-Antworten-Repository stellen Online-Antworten einen weiteren Datentyp dar, der das Design veranschaulicht. Infrastruktur als Code, ermöglicht durch Tools wie Pulumi, generiert die Ergebnisse der KI. Der Suchcrawler von Google indexiert diese und präsentiert sie den Nutzern zusammen mit Links zu den von Menschen erstellten Website-Inhalten. Solche Dokumentationen und Codefragmente, die von einem KI-System erzeugt wurden, trugen dazu bei, dass andere Entwickler erkannten, dass viele Systeme ungenaue oder, noch schlimmer, nicht funktionierende Ergebnisse lieferten.

Suchmaschinenranking-Probleme

Das Problem trat am 21. März 2024 auf. Pete Nykänen entdeckte es und veröffentlichte es in einem GitHub-Issues-Thread zu Pulumi AI. „Vor Kurzem suchte ich bei Google nach Infrastruktur-bezogenen Schlüsselwörtern. Dabei fiel mir ein beunruhigender Trend auf: Die Antworten von Pulumi AI werden auf der Google-Ergebnisseite ganz oben angezeigt, unabhängig davon, ob die Frage jemals gestellt wurde. Das betrifft sogar mehrere Suchanfragen gleichzeitig, daher bin ich sicher, dass sich das Problem mit der Zeit noch verschlimmern wird.“ Nicky teilte The Register per E-Mail mit, dass ihm die Suchprobleme mit Pulumi AI aufgefallen seien.

Der CEO wies darauf hin: „Wir Ingenieure verbringen viel Zeit damit, online nach Antworten zu suchen, und mir fiel sofort auf, dass die KI nachts bei Suchbegriffen, die weder mit Pulumi noch mit KI an sich zu tun hatten, ganz oben in den Suchergebnissen stand.“ 

Nykänen argumentierte, dass KI derzeit bei Suchanfragen die Spitzenplätze belegt. Da immer mehr Unternehmen Programme zur Inhaltsgenerierung entwickeln, ist der Einsatz von KI-Experten in der Praxis von Bedeutung und könnte die Vertrauenswürdigkeit des Internets beeinträchtigen. 

Eine weitere Rolle, die KI in der Dokumentation spielte, war, dass, obwohl AI Answers mehr als die Hälfte (fast zwei Drittel) der Themen zur Nutzung der Dienste abdeckten, Aaron Friel, ein KI-Ingenieur bei Pulumi, vorschlug, dass neue AI Answers eingestellt würden. 

Qualitätsprüfung

Friel erwähnte die API-Seiten als weitere Initiative von Pulumi, in der es um konkrete Anwendungsfälle und Dokumente aus dem Upstream-Bereich geht. Google ist bisher nicht bekannt, dass der generierte Code nach einem Monat getestet und auf die To-do-Liste gesetzt wurde. „AWS Light Sail X-Ray“ wurde am Montag von The Register als Suchbegriff verwendet, und Pulumi AI lieferte ein Ergebnis nahe dem zweiten Platz. Am Dienstag der darauffolgenden Woche, als dieselben Suchbegriffe in die Suchmaschine eingegeben wurden, überraschte uns Pulumi mit einem Platz auf der ersten Seite – sogar vor der offiziellen AWS-Dokumentation.

Sie baten Google um eine Einschätzung der aktuellen Lage, woraufhin ein Google-Vertreter erklärte: „Das Unternehmen ist stets bestrebt, die qualitativ hochwertigsten Informationen anzuzeigen, aber bei einigen eng gefassten Themen in der Suchanfrageliste gibt es möglicherweise keine qualitativ hochwertigen Inhalte im Web, die den ersten Platz belegen könnten.“

Der Suchmaschinenriese betonte weiterhin, dass seine Richtlinien auf der Tatsache beruhen, dass „minderwertiges Material, das in großem Umfang zum alleinigen Zweck der Manipulation der Suchergebnisse produziert wird, als Spam gilt“ und dass die kürzlich verbesserte Technologie 45 % solcher unorigineller/völlig nutzloser Inhalte in der Suche ins Visier nimmt.

Die Suchmaschine Bing von Microsoft hat im Hintergrund eine Wikipedia-Seite zu derselben Suchanfrage gefunden. Obwohl die KI-generierten Ergebnisse von Bing keine Probleme aufwiesen, enthielten sie einen Chat-Button, der sich öffnete, wenn man darauf hereinfiel und ihn anklickte. Auch bei Brave fehlte die Antwort der Pulumi-KI. 

Laut DuckDuckGo erschien Pulumi AI als viertes Ergebnis auf der Suchergebnisseite (SERP) für die Suchanfrage „Was steckt in Produkten mit künstlicher Intelligenz?“. Duffy erklärte, die Codequalität von Pulumi sei kontinuierlich getestet und verbessert worden. Das Unternehmen verzeichnete quartalsweise eine zweistellige Steigerung der Erfolgsquote der Codebeispiele.