Cambridge Dictionarys Wort des Jahres „Halluzinieren“ hebt das große Problem der KI hervor

In einer bemerkenswerten Verschiebung innerhalb der Landschaft der künstlichen Intelligenz (KI) hat das Cambridge Dictionary „halluzinieren“ (hallucinate) zu seinem Wort des Jahres gewählt. Diese Auswahl spiegelt eine bedeutende Entwicklung im Verständnis dieses Begriffs im KI-Bereich wider. Während er traditionell mit der Wahrnehmung nicht existierender Phänomene verbunden ist, umfasst „halluzinieren“ nun Fälle, in denen KI-Systeme fälschlicherweise ungenaue Daten als faktisch darstellen, was manchmal zu nachteiligen Konsequenzen führt.

KI-Unzuverlässigkeiten auf prominenten Plattformen

Prominente Tech-Plattformen wie Gizmodo, CNET und Microsoft wurden für Unzuverlässigkeiten in Artikeln, die von KI erstellt wurden, unter die Lupe genommen. Dies wirft Bedenken hinsichtlich der Zuverlässigkeit von von KI-Systemen generierten Inhalten auf. In einem besonders alarmierenden Fall verlor ein Jurist seinen Job, als ein KI-basierter Chatbot, ChatGPT, fiktive Klagen als Referenzen erstellte. Anfang dieses Jahres wiesen Analysten von Morgan Stanley auf die Neigung von ChatGPT hin, Fakten zu erfinden, ein Problem, das ihrer Vorhersage nach noch jahrelang bestehen wird. Diese Vorfälle haben bei Führungskräften und Experten für Desinformation rote Flaggen bezüglich des Potenzials von KI, Online-Desinformation zu verstärken, ausgelöst.

Die Bedeutung des kritischen Denkens

Wendalyn Nichols, die Verlagsleiterin des Cambridge Dictionary, hat die entscheidende Rolle des menschlichen kritischen Denkens bei der Verwendung von KI-Tools betont. Sie hebt hervor, dass die Tatsache, dass KI „halluzinieren“ kann, als Erinnerung dient, dass Menschen ihre Fähigkeiten des kritischen Denkens ausüben müssen, wenn sie sich auf diese Tools verlassen. Dies unterstreicht die Notwendigkeit der Nutzer, KI-generierten Inhalten mit einem kritischen Auge zu begegnen.

Anerkennung durch die KI-Branche

Der Begriff „halluzinieren“ hat in Diskussionen innerhalb der KI-Branche seit dem Start von OpenAIs bahnbrechender Chatbot-Technologie, ChatGPT, im April 2023 an Bedeutung gewonnen. Alphabet Inc. CEO Sundar Pichai räumte ein, dass die KI-Branche mit „Halluzinationsproblemen“ zu kämpfen hat, für die es keine unmittelbare, klare Lösung gibt. Diese Anerkennung von einer führenden Figur in der Tech-Welt unterstreicht die Schwere des Problems.

Vectaras Beitrag zu verantwortungsvoller KI

In einem bedeutenden Schritt zur Selbstregulierung und Förderung verantwortungsvoller KI stellte der Entwickler großer Sprachmodelle (LLM) Vectara im November 2023 sein Open-Source-Halluzinationsbewertungsmodell vor. Dieses innovative Modell bewertet, wie stark ein LLM von faktischen Informationen abweicht. Durch die Quantifizierung dieser Abweichungen zielt Vectara darauf ab, Hindernisse für die weit verbreitete Einführung von KI in Unternehmen zu adressieren und Risiken im Zusammenhang mit Desinformation zu mindern.

Die Auswahl von „halluzinieren“ als Wort des Jahres durch das Cambridge Dictionary wirft ein Licht auf ein kritisches Problem innerhalb der KI-Branche. Die Unzuverlässigkeiten und das Potenzial von KI, falsche Informationen zu generieren, haben Bedenken bei Experten und der Öffentlichkeit ausgelöst. Während die KI-Branche mit diesen „Halluzinationsproblemen“ kämpft, ist die Notwendigkeit einer verantwortungsvollen KI-Entwicklung und eines wachsam kritischen Denkens bei der Verwendung von KI-Tools nie offensichtlicher gewesen. Vectaras Halluzinationsbewertungsmodell stellt einen bedeutenden Schritt dar, um diese Herausforderungen anzugehen und sicherzustellen, dass KI als Kraft für das Gute dient, anstatt Desinformation im digitalen Zeitalter zu verstärken.