Die WHO stellt trotz Mängeln den KI-Chatbot Sarah vor

Die Weltgesundheitsorganisation (WHO) hat eine KI in Form eines Chatbots namens SARAH entwickelt. SARAHs Ziel ist es, den Zugang zu globalen Gesundheitsinformationen zu verbessern. Wir loben den innovativen Ansatz von SARAH. Dennoch verbreitet sie mitunter falsche medizinische Informationen.

Technologische Innovation trifft auf Gesundheitserziehung

SETHARA, ein Akronym für „Smart AI Resource Assistant for Health“, spiegelt die Bemühungen der WHO in diesem Bereich wider. Sie repräsentiert die neueste digitale Gesundheitslösung der Organisation. SETHARA wurde entwickelt, um den Versorgungsbedarf jederzeit und überall zu decken und kann Informationen in acht Sprachen bereitstellen, darunter auch zu psychischer Gesundheit und Lebensentscheidungen. 

Dies ist eine der Maßnahmen, die Teil der WHO-Strategie zur Integration von Technologie in die Gesundheitsaufklärung und zur Schließung der globalen Lücke in der Gesundheitsversorgung sind. Die WHO räumte jedoch ein, dass der Prototyp trotz seiner historischen Bedeutung Schwächen aufweist. Er wurde bisher von den Programmierern weitgehend so angepasst, dass er im Rahmen des WHO-Mandats bleibt und Informationen zur Suche nach professioneller Hilfe bei bestimmten Problemen bietet. Der Bot kann diesen Service nicht kontinuierlich bereitstellen und ist nicht mit Tools wie WebMD vergleichbar.

Herausforderungen in Bezug auf Genauigkeit und Sicherheit von KI

SARAH wurde nicht auf dem einfachsten Weg implementiert. Der KI-Chatbot basiert auf dem ChatGPT 3.5-Modell von OpenAI und hatte Probleme mit veralteten Informationen und falschen Antworten. So gab er beispielsweise fälschlicherweise den Zulassungsstatus eines neuen Alzheimer-Medikaments an, was auf fehlende, fortlaufend trainierte Daten zurückzuführen ist, die lediglich Daten bis September 2021 umfassten.

Ein weiteres Problem, mit dem SARAH häufig zu kämpfen hat, ist die Präsentation von Antworten, die themen- oder zweckfremd sind. Dieses bekannte Problem in der KI-Entwicklung wird als Halluzination interpretiert. Zusammenfassend lässt sich sagen, dass diese Ungenauigkeiten die Gefahr von Fehlinformationen in der Öffentlichkeit erhöhen können. Die Weltgesundheitsorganisation (WHO) bemüht sich daher, die Ansichten von Forschern und Regierungsbehörden einzuholen, um die Resilienz, insbesondere in gesundheitlichen Notlagen, zu verbessern.

Dies geht einher mit Bedenken hinsichtlich des Einsatzes von KI im Gesundheitswesen. SORAH nutzt Gesichtserkennungstechniken, um die Emotionen der Nutzer zu erkennen und zu interpretieren. Das Unternehmen verspricht, die Gesichter der Nutzer durch Datenschutz und Wahrung der Privatsphäre zu schützen. Das Open-Source-Modell birgt zudem ein erhöhtes Risiko von Cyberangriffen auf die KI-Infrastruktur.

Zukünftige Entwicklungen und ethische Überlegungen

Die WHO pflegt SARAH weiterhin und plant in Kürze Updates, wie beispielsweise die Einführung eines veränderlichen Avatars und interaktiver Funktionen. Die WHO hat ethische Grundsätze für ihre Stakeholder bekannt gegeben und die Konzepte der Datentransparenz und Nutzersicherheit hervorgehoben. SARAH, eine auf künstlicher Intelligenz basierende Technologie, wird weiterentwickelt, da die WHO der Integration von KI in die Verbreitung von Gesundheitsbotschaften skeptisch gegenübersteht. Die Technologie weist jedoch einige Schwächen auf, auf die die Organisation umgehend hinweist. 

Die Organisation stellt klar, dass SARAH keine grundlegende Umgestaltung medizinischer Dienstleistungen darstellt – das war auch nicht das Ziel –, sondern ein unterstützendes Instrument zur weltweiten Verbreitung von Gesundheitsbewusstsein und -aufklärung ist. Trotz einiger Hindernisse zeigt die Initiative der WHO einen bedeutenden Fortschritt beim Einsatz künstlicher Intelligenz in der Gesundheitsaufklärung, da sie sich an ein breiteres Publikum richtet und dazu beiträgt, Gesundheitsinformationen weltweit besser zugänglich zu machen.