Microsofts Chatbot wirft Bedenken regarding die Genauigkeit von Wahlinformationen auf

Microsoft, als wichtiger Akteur in der Technologiebranche, hat sich aktiv damit befasst, diese Bedenken zu adressieren. Das Unternehmen hat Schritte unternommen, um Desinformation zu bekämpfen und die Integrität digitaler Plattformen zu stärken. Zu den Initiativen von Microsoft gehören die Entwicklung und der Einsatz fortschrittlicher KI-Tools und -Technologien, um die Verbreitung irreführender oder falscher Informationen zu erkennen und einzudämmen.

Studie enthält alarmierende Ungenauigkeiten in Microsofts Chatbot

Eine kürzlich von den europäischen NGOs Algorithm Watch und AI Forensics durchgeführte Studie hat die potenziellen Risiken im Zusammenhang mit Microsofts Chatbot, der von OpenAIs GPT-4 angetrieben wird, beleuchtet. Die Studie konzentrierte sich auf die Antworten des Chatbots auf Fragen zu Wahlen in Deutschland und der Schweiz. Die Ergebnisse zeigten, dass der Chatbot bei einem Drittel der gestellten Fragen falsche Antworten gab.

Während sich die Bedenken oft auf böswillige Akteure konzentrieren, die absichtlich Desinformation verbreiten, betont die Studie, dass allgemeine Chatbots eine ebenso große Bedrohung für das Informationsökosystem darstellen können. Salvatore Romano, Senior Researcher bei AI Forensics, wies darauf hin: „Unsere Forschung zeigt, dass böswillige Akteure nicht die einzige Quelle für Fehlinformationen sind; allgemeine Chatbots können für das Informationsökosystem genauso bedrohlich sein.“

Microsofts Chatbot: Eine Quelle irreführender faktischer Fehler

Die in der Studie identifizierten Fehler reichten von falschen Wahlterminen und veralteten Kandidateninformationen bis hin zu völlig erfundenen Kontroversen um Kandidaten. Auffällig war, dass der Chatbot falsche Informationen vertrauenswürdigen Quellen zuschrieb, die tatsächlich genaue Informationen zu den Themen besaßen. Der KI-Chatbot erfand auch Geschichten über Kandidaten, die sich skandalösem Verhalten hingaben, was weiter zur Verbreitung irreführender Informationen beitrug.

Nachdem Microsoft über die Ergebnisse der Studie informiert wurde, äußerte es die Bereitschaft, die angesprochenen Probleme anzugehen. Allerdings ergaben spätere, einen Monat später gesammelte Proben ähnliche Ergebnisse, was auf anhaltende Herausforderungen bei der Gewährleistung der Genauigkeit der vom Chatbot bereitgestellten Informationen hinweist. Das Pressebüro von Microsoft gab kein Statement zu diesem Artikel ab, aber ein Unternehmenssprecher informierte die Wall Street Journal, dass Anstrengungen im Gange seien, ihre Tools für die Wahlen 2024 vorzubereiten.

Der Aufruf zu strukturellen Veränderungen

Riccardo Angius, Lead Applied Math und Forscher bei AI Forensics, stellte die Charakterisierung von Ungenauigkeiten als bloße „Halluzinationen“ in Frage und erklärte: „Es ist an der Zeit, die Bezeichnung dieser Fehler als ‚Halluzinationen‘ zu diskreditieren. Unsere Forschung deckt die weitaus komplexeren und strukturellen Ursachen irreführender faktischer Fehler in allgemeinen LLMs und Chatbots auf.“

Microsofts Zusicherung und Vorsicht der Nutzer

Während Microsoft die Notwendigkeit anerkennt, die identifizierten Probleme anzugehen, wird den Nutzern geraten, bei der Überprüfung der vom KI-Chatbot generierten Ergebnisse ihr „bestes Urteilsvermögen“ anzuwenden. Der Tech-Riese betont seine laufenden Bemühungen, die Leistung seiner Tools für die bevorstehenden Wahlen 2024 zu verbessern. Die Studie unterstreicht jedoch die Bedeutung einer wachsame Nutzerprüfung angesichts potenzieller Fehlinformationen.

Die Welt tritt in eine kritische Phase demokratischer Entscheidungsfindung ein, wobei die Schnittstelle von generativer KI und Wahlen wichtige Bedenken aufwirft. Microsofts Chatbot, ein prominenter Akteur in diesem Bereich, steht wegen seiner Rolle bei der Verbreitung ungenauer Informationen unter der Lupe. Die Enthüllungen der Studie führen zu einer Neubewertung, wie KI-Technologien in demokratische Prozesse integriert werden, und betonen die Notwendigkeit kontinuierlicher Verbesserungen, um die Integrität wahlbezogener Informationen zu gewährleisten.