KI-induzierte Halluzinationen: Blogbeitrag des Forschers löst Suchmaschinen-Fehlinformationen aus

Künstliche Intelligenz (KI)-Chatbots, angetrieben von generativen KI-Modellen, wurden unbeabsichtigt von einem Forschungs-Blogbeitrag in die Irre geführt. Der Vorfall unterstreicht die Notwendigkeit verstärkter Schutzmaßnahmen, da KI-verbesserte Suchmaschinen alltäglicher werden.

Halluzinationen in KI-Chatbots

Der Informationswissenschaftler Daniel S. Griffin löste unbeabsichtigt ein einzigartiges Dilemma im Bereich der KI-Chatbots aus, als er Beispiele für falsche Informationen auf seinem Blog postete. Sein Ziel war es, Fälle zu veranschaulichen, in denen KI-Chatbots Fehlinformationen verbreiten. Griffin präsentierte zwei Beispiele im Zusammenhang mit dem einflussreichen Informatiker Claude E. Shannon, mit einer klaren Warnhinweis, der angab, dass die Informationen der Chatbots unwahr waren.

Dieser Warnhinweis erwies sich jedoch als unzureichend, um zu verhindern, dass Maschinenscraper die falschen Informationen indizierten. Griffin war überrascht festzustellen, dass mehrere Chatbots, einschließlich Microsofts Bing und Googles Bard, die halluzinierten Daten so referenzierten, als wären sie faktisch, und sie an die Spitze ihrer Suchergebnisse einreihen. Wenn Nutzer die Chatbots nach spezifischen Details zu Shannon befragten, stützten sich die Bots auf Griffins Warnhinweis, um eine konsistente, jedoch fehlerhafte Erzählung zu konstruieren. Dies führte dazu, dass Shannon ein Papier zugeschrieben wurde, das er nie verfasst hatte.

Darüber hinaus war der besorgniserregende Aspekt dieser Situation das Fehlen jeglicher Anzeige in Bing- und Bard-Suchergebnissen, dass ihre Quellen von Language Model AI (LLM) stammten. Dieses Phänomen ähnelt eng Fällen, in denen Personen Quellen paraphrasieren oder zitieren, ohne den Kontext zu beachten, was zu fehlerhafter Forschung führt. Der Griffin-Vorfall zeigte jedoch, dass generative KI-Modelle diesen Fehler potenziell in einem viel größeren Maßstab automatisieren könnten.

Die Folgen von KI-Fehlinformationen

Die Auswirkungen dieses Vorfalls gehen über reine Forschungsungenauigkeiten hinaus. Microsoft hat den Fehler in Bing seitdem korrigiert und darauf hingewiesen, dass das Problem eher bei Themen mit begrenztem menschlich geschriebenem Online-Inhalt auftreten wird. Diese Verwundbarkeit öffnet die Tür zu einer beunruhigenden Möglichkeit – einem theoretischen Bauplan für böswillige Akteure, LLMs absichtlich zu weaponisieren, um Fehlinformationen zu verbreiten, indem Suchmaschinenergebnisse manipuliert werden. Diese Taktik erinnert an vergangene Fälle, in denen Hacker betrügerische Websites verwendet haben, um Malware zu verteilen, indem sie Top-Suchergebnis-Rankings sicherten.

Dieser Vorfall erinnert an eine frühere Warnung vom Juni, die postulierte, dass, wenn das Internet zunehmend mit von LLMs generierten Inhalten gesättigt wird, diese zur Schulung zukünftiger LLMs verwendet werden. Diese Feedback-Schleife könnte zu einer erheblichen Verschlechterung der Qualität und Vertrauenswürdigkeit von KI-Modellen führen, einem Phänomen, das als „Modellzusammenbruch“ bezeichnet wird. Die Notwendigkeit von Wachsamkeit bei der Entwicklung und Nutzung von KI-Modellen war noch nie offensichtlicher.

Der Vorfall mit Daniel S. Griffin unterstreicht die Imperativität für Unternehmen, die mit KI arbeiten, die kontinuierliche Schulung von Modellen mit menschlich erstellten Inhalten zu priorisieren. Die Bewahrung weniger bekannter Informationen und von Minderheitengruppen verfasster Materialien kann eine entscheidende Rolle bei der Eindämmung der Verbreitung von KI-systemen perpetuierter Fehlinformationen spielen.