Google-Analyst warnt: KI-Antworten „nicht perfekt, können Ihr Gehirn nicht ersetzen“

Google-Analyst Gary Illyes warnte, dass Large Language Models – die Technologie hinter generativen KI-Chatbots wie ChatGPT – immer noch Lücken in der Genauigkeit aufweisen und ein menschliches Auge benötigen, um die von ihnen produzierten Inhalte zu überprüfen. Die Kommentare kommen wenige Tage nach der Einführung von SearchGPTdurch OpenAI, einer neuen KI-gestützten Suchmaschine, die direkt mit Google konkurrieren wird. 

Illyes teilte die Kommentare auf LinkedIn als Antwort auf eine Frage, die er in seinem Posteingang erhielt, sagte aber nicht, um welche Frage es sich handelte. Er sagte, man sollte KI-Antworten nicht blind vertrauen, ohne andere autoritative Quellen zu überprüfen. OpenAI zielt darauf ab, mit seinem Suchtool die Dominanz von Google im Suchmaschinenmarkt umzukehren.

KI-Antworten sind „nicht unbedingt faktisch korrekt“

Illyes, der seit über einem Jahrzehnt bei Google arbeitet, sagte, dass KI-Antworten zwar nahe an der Wahrheit liegen können, aber nicht „notwendigerweise faktisch korrekt“ sind. Das liegt daran, dass Large Language Models (LLMs) nicht immun gegen die Aufnahme falscher Informationen sind, die im Internet kursieren, erklärte er.

„Basierend auf ihren Trainingsdaten finden LLMs die am besten geeigneten Wörter, Phrasen und Sätze, die mit dem Kontext und der Bedeutung eines Prompts übereinstimmen“, schrieb Illyes. „Dies ermöglicht es ihnen, relevante und kohärente Antworten zu generieren. Aber nicht unbedingt faktisch korrekte.“

Der Google-Analyst sagte, dass Nutzer KI-Antworten weiterhin basierend auf dem, „was Sie über das Thema wissen, das Sie dem LLM gestellt haben, oder auf zusätzlichen Lektüren von Ressourcen, die für Ihre Anfrage autoritativ sind“, validieren müssen.

Eine Möglichkeit, die Entwickler versucht haben, die Zuverlässigkeit KI-generierter Inhalte sicherzustellen, ist eine Praxis namens „Grounding“. Der Prozess beinhaltet die Infusion maschinell erstellter Informationen mit menschlichen Elementen, um Fehler zu vermeiden. Laut Illyes kann Grounding möglicherweise immer noch nicht ausreichen.

„Grounding kann dazu beitragen, faktisch korrektere Antworten zu erstellen, aber es ist nicht perfekt; es ersetzt Ihr Gehirn nicht“, sagte er. „Das Internet ist voller beabsichtigter und unbeabsichtigter Fehlinformationen, und Sie würden nicht alles glauben, was Sie online lesen, also warum würden Sie KI-Antworten glauben?“

Elon Musk beschuldigt Google, öffentliche Informationen zu zensieren

Traditionell war Vertrauen immer ein Problem bei Suchmaschinen wie Google und anderen KI-Plattformen und wie sie eine gewisse Kontrolle über die Informationen ausüben, die sie an die Nutzer weitergeben.

Ein solcher Vorfall beinhaltet den kürzlichen Attentatsversuch auf den ehemaligen US-Präsidenten Donald Trump. Elon Musk schlug vor, dass Google den Schussvorfall aus seinen Suchergebnissen gesperrt habe, was zu einer großen Debatte in den sozialen Medien über die Reichweite von Big Tech führte.

Wow, Google hat ein Suchverbot für Präsident Donald Trump!

Wahleinflussnahme? pic.twitter.com/dJzgVAAFZA

— Elon Musk (@elonmusk) Juli 29, 2024

In der Flut von Antworten fügte ein Spoof-Account, der angeblich dem Google-Vizepräsidenten Ana Mostarac gehört, zur Debatte bei, indem er eine falsche Entschuldigung des Unternehmens für das angebliche Blockieren von Inhalten zu Trump teilte.

„…Die Informationsbedürfnisse der Menschen wachsen weiterhin, also werden wir Search weiterentwickeln und verbessern. Allerdings scheint wir müssen neu justieren, was wir unter Genauigkeit verstehen. Was genau ist, ist subjektiv, und die Verfolgung der Genauigkeit kann im Weg stehen, Dinge erledigt zu bekommen“, postete der gefälschte Account auf X.

„Sie können versichert sein, dass unser Team hart daran arbeitet, sicherzustellen, dass wir unsere Verehrung für Genauigkeit nicht als Ablenkung zulassen, die unserer Vision für die Zukunft im Weg steht“, fügte es hinzu.

Die Community-Hinweise auf X markierten den Tweet sofort und sagten, die Person gebe sich als Google-Vizepräsident aus. Dies ist ein Beispiel dafür, wie Informationen leicht verzerrt werden können und KI-Modelle möglicherweise nicht in der Lage sind, zwischen dem, was genau ist oder nicht, ohne menschliche Überprüfung zu unterscheiden.