Elon Musks Bevorzugung von KI und die ungezügelte Automatisierung von X

Schreckliche Nachrichten machten in den sozialen Medien die Runde, als Elon Musks X-Plattform Meldungen über einen iranischen Angriff auf Israel auf der Startseite ihres Newsfeeds „Explore“ präsentierte.

Am Donnerstag lautete eine der Überschriften im Haupt-Newsfeed von X:

„Iran greift Tel Aviv mit schweren Raketen an“

Angesichts der geopolitischen Lage und des jüngsten israelischen Angriffs auf die iranische Botschaft in Syrien, bei dem hochrangige Beamte getötet wurden, sowie der Spannungen zwischen den beiden Ländern, die sich während Israels Gaza-Invasion weiter verschärften, wäre dies eine äußerst beunruhigende Nachricht gewesen. Es wäre also wohl kein günstiger Zeitpunkt gewesen, aber möglicherweise ideal für diejenigen, die aus welchen Gründen auch immer irreführende Schlagzeilen verbreiten wollen. Die Rolle der künstlichen Intelligenz (KI) darf dabei nicht außer Acht gelassen werden, wenn sie als Werkzeug für solch abscheuliche Taten missbraucht werden kann. 

Die Schlagzeile war gefälscht, und noch besorgniserregender ist, dass sie vom offiziellen KI-Chatbot Grok von X generiert und dann auf der Startseite der Explore-Trendnachrichten von X am Tag der Aktualisierung dieser Funktion auf eine neue Version veröffentlicht wurde.

Elon Musks Automatisierungsbestrebungen – Warum esdent zu dem Vorfall kam

Wenn man den UrsprungdentTrac, wird deutlich, dass der von Grok generierte irreführende Titel ein Produkt des Übergangs von der kritischen Inhaltskuratierungsarbeit, die zuvor von Menschen geleistet wurde, hin zu künstlicher Intelligenz ist, die jedoch noch nicht vollständig intelligent ist.

Die X-Plattform, ehemals Twitter, bot eine Funktion, die schriftlichen Kontext zu aktuellen Nachrichtenthemen bereitstellte. Vermutlich wurden diese Beschreibungen von Menschen verfasst. Der Twitter-Algorithmus konnte relevante Schlüsselwörter erkennen und den Trend anhand dieser Vorschläge mit anderen Trendthemen teilen.

Später stellte Twitter ein Team von menschlichen Redakteuren zusammen, um Nachrichten zu kuratieren und Trends zu analysieren. So sollten die Trendthemen nicht länger von Algorithmen bestimmt werden, sondern unter menschlicher Kontrolle stehen – ein zuverlässigerer Ansatz wurde eingeführt. Twitter ging außerdem Partnerschaften mit führenden Nachrichtenagenturen wie Reuters und AP ein, um den von Menschen generierten Kontext für die Trendthemen weiter zu verbessern.

Doch das änderte sich, als Musk 2022 Twitter übernahm, es in X umbenannte und die von Menschen verfassten Kontextinformationen zu den Trendnachrichten ersetzte. Das gesamte Redaktionsteam wurde entlassen, da Musk KI bevorzugte, um Nachrichten effizienter zu kuratieren – doch auch diese hatte ihre Schwächen. 

Die Risiken, sich ausschließlich auf KI zu verlassen

Die Tatsache, dass Musk so ambitioniert mit Grok umgeht und es bei jeder Gelegenheit bewirbt, obwohl er weiß, dass es sich noch in der Anfangsphase befindet und nicht besonders zuverlässig ist, gibt Anlass zur Sorge. Musks Entscheidung, menschliche Redakteure durch KI zu ersetzen, mag zwar finanzielle Vorteile bringen, ist aber auch mit Kosten verbunden.

Die Tatsache, dass die Überschrift nicht aus einem Feed stammte, sondern von Grok, dem nativen KI-Chatbot der X-Plattform, generiert wurde, war besorgniserregend. Am beunruhigendsten war jedoch, dass diese falsche Überschrift, selbst wenn sie von Grok selbst generiert worden war, anschließend ganz oben auf der Explore-Newsseite angezeigt wurde. 

kein Kontrollsystem gab Nachricht. Falls überhaupt ein solches existierte, war es unzureichend, und das Unternehmen verließ sich vollständig auf KI. Wie bereits erwähnt, ist KI noch nicht intelligent genug, um sensible Themen zu behandeln, obwohl sie viele Vorteile bei der Datenanalyse bietet und Ergebnisse effizienter liefert als der Mensch. Dennoch gibt es Bereiche, die menschliches Eingreifen erfordern, und es wird einige Zeit dauern, bis KI dieses Stadium erreicht. Bis dahin ist es nicht ratsam, sich ausschließlich auf KI-Verfahren zu verlassen.