Das Wort des Jahres des Cambridge Dictionary, „halluzinieren“, verdeutlicht das große Problem der KI

In einer bemerkenswerten Wendung im Bereich der künstlichen Intelligenz (KI) hat das Cambridge Dictionary „halluzinieren“ zum Wort des Jahres gekürt. Diese Wahl spiegelt eine bedeutende Weiterentwicklung des Verständnisses dieses Begriffs im KI-Feld wider. Während „halluzinieren“ traditionell mit der Wahrnehmung nicht existierender Phänomene assoziiert wurde, umfasst er heute auch Fälle, in denen KI-Systeme ungenaue Daten fälschlicherweise als Fakten darstellen, was mitunter zu negativen Folgen führt.

KI-Ungenauigkeiten auf prominenten Plattformen

Bekannte Technologieplattformen wie Gizmodo, CNET und Microsoft gerieten wegen fehlerhafter, KI-generierter Artikel in die Kritik. Dies nährt Bedenken hinsichtlich der Zuverlässigkeit von Inhalten, die von KI-Systemen erstellt werden. In einem besonders alarmierenden Fall verlor ein Jurist seinen Job, nachdem der KI-basierte Chatbot ChatGPT fiktive Klagen als Referenzen erstellt hatte. Anfang des Jahres wiesen Analysten von Morgan Stanley auf die Neigung von ChatGPT hin, Fakten zu erfinden – ein Problem, das ihrer Prognose nach noch Jahre bestehen wird. Diesedenthaben bei Wirtschaftsführern und Experten für Desinformation die Alarmglocken schrillen lassen, was das Potenzial von KI zur Verstärkung von Online-Desinformation angeht.

Die Bedeutung des kritischen Denkens

Wendalyn Nichols, die Verlagsleiterin des Cambridge Dictionary, betont die entscheidende Rolle des kritischen Denkens beim Einsatz von KI-Werkzeugen. Sie hebt hervor, dass die Fähigkeit von KI-Systemen, „halluzinieren“ zu können, uns daran erinnert, dass wir unsere Fähigkeiten zum kritischen Denken einsetzen müssen, wenn wir uns auf diese Werkzeuge verlassen. Dies unterstreicht die Notwendigkeit, KI-generierte Inhalte kritisch zu betrachten.

Anerkennung der KI-Branche

Der Begriff „Halluzination“ hat in Diskussionen innerhalb der KI-Branche an Bedeutung gewonnen, seit OpenAI im April 2023 seine bahnbrechende Chatbot-Technologie ChatGPT auf den Markt brachte. Sundar Pichai, CEO von Alphabet Inc., räumte ein, dass die KI-Branche mit „Halluzinationsproblemen“ zu kämpfen hat, für die es keine unmittelbare, eindeutige Lösung gibt. Dieses Eingeständnis einer führenden Persönlichkeit der Tech-Welt unterstreicht die Schwere des Problems.

Vectaras Beitrag zu verantwortungsvoller KI

Als wichtigen Schritt hin zu Selbstregulierung und verantwortungsvoller KI stellte Vectara, Entwickler großer Sprachmodelle (LLM), im November 2023 sein Open-Source-Modell zur Bewertung von Fehlinformationen vor. Dieses innovative Modell bewertet, wie stark ein LLM von Fakten abweicht. Durch die Quantifizierung dieser Abweichungen will Vectara Hindernisse für die breite Anwendung von KI in Unternehmen beseitigen und die Risiken von Fehlinformationen minimieren.

Die Wahl von „halluzinieren“ zum Wort des Jahres durch das Cambridge Dictionary wirft ein Schlaglicht auf ein zentrales Problem der KI-Branche. Die Ungenauigkeiten und das Potenzial von KI, Fehlinformationen zu generieren, haben bei Experten und der Öffentlichkeit Besorgnis ausgelöst. Angesichts dieser „Halluzinationsprobleme“ ist die Notwendigkeit einer verantwortungsvollen KI-Entwicklung und eines wachsamen, kritischen Denkens beim Einsatz von KI-Werkzeugen deutlicher denn je. Das Halluzinationsbewertungsmodell von Vectara stellt einen wichtigen Schritt zur Bewältigung dieser Herausforderungen dar und trägt dazu bei, dass KI im digitalen Zeitalter zum Guten beiträgt, anstatt Fehlinformationen zu verbreiten.