Am Freitag führte die US-Sozialversicherungsbehörde (Social Security Administration, SSA) einen neuen Chatbot namens „Agency Support Companion“ ein, der auf ChatGPT basiert. Das Tool sollte Mitarbeitern bei Routineaufgaben helfen und die Produktivität steigern. Stattdessen berichten Angestellte, dass es kaum funktioniert, und der missglückte Start hat viele daran zweifeln lassen, ob Automatisierung der richtige Weg für Amerikas größte Sozialbehörde ist.
In den letzten Monaten hat Musks Organisation, intern als DOGE berichtete ein neuer Chatbot in die täglichen Arbeitsabläufe der Behördenmitarbeiter integriert, um deren Arbeitsbelastung zu verringern.
In einer internen E-Mail wurde die App als Möglichkeit beschrieben, „Mitarbeiter bei alltäglichen Aufgaben zu unterstützen und die Produktivität zu steigern“, in der Praxis hat die App jedoch wenig Beachtung gefunden.
Quellen innerhalb der Behörde berichten, dass die Einführung der App von einem peinlich schlechten Schulungsvideo begleitet wurde, in dem eine schlecht animierte Frau mit vier Fingern zu sehen war. Der Clip sollte die Nutzer durch die Funktionen der App führen, versäumte es aber, die Mitarbeiter vor dem Hochladen sensibler personenbezogener Daten zu warnen. Dieser Fehler zwang die Behörde, eine E-Mail mit dem Betreff „Wir entschuldigen uns für das Versäumnis in unserem Schulungsvideo“ zu versenden, um die Mitarbeiter auf das Risiko hinzuweisen.
Nur wenige Menschen haben das SSA-KI-Schulungsvideo ernst genommen
„Ich bin mir nicht sicher, ob die meisten meiner Kollegen sich das Schulungsvideo überhaupt angesehen haben“, sagte ein Mitarbeiter der Sozialversicherung gegenüber Wired. Er fügte hinzu, dass beim Testen des Chatbots „viele der Antworten, die ich erhielt, unglaublich vage und/oder ungenau waren“. Andere Mitarbeiter machten sich Berichten zufolge über die grobe Grafik lustig. „Niemand, den ich kenne, benutzt ihn. Er ist so ungeschickt und schlecht“, sagte die Quelle.
Kritiker warnen, dass dieser holprige Start ein Vorbote für weitreichendere Misserfolge sein könnte.
In Brasilien brachte 2018 das staatliche Unternehmen Dataprev die App Meu INSS auf den Markt, die mithilfe von Computer Vision und natürlicher Sprachverarbeitung Sozialversicherungsanträge bearbeiten sollte. Allerdings wurden berechtigte Anträge aufgrund geringfügiger Fehler häufig abgelehnt, was langwierige Rechtsstreitigkeiten nach sich zog.
Ein Beispiel dafür ist die 55-jährige Josélia de Brito, eine ehemalige Zuckerrohrarbeiterin, deren Rentenantrag abgelehnt wurde, weil das automatisierte System ihr Geschlecht falschdent. „Ich habe alle Dokumente, die meinen Gesundheitszustand belegen, alles, was ich brauche, und trotzdem wird mir die Rente verweigert. Das ist eine Demütigung“, sagte sie gegenüber „Rest of World“.
Viele Landarbeiter in ländlichen Gebieten, denen grundlegende digitale Kenntnisse fehlen, haben mit der Umstellung auf Online-Dienste zu kämpfen. „Die Leute hier können nicht einmal mit Gmail, Facebook oder Instagram umgehen“, sagte Francisco Santana,dent der Gewerkschaft der Landarbeiter in Barra do Corda. „Die Prozesse werden immer stärker automatisiert, und die Gesellschaft ist darauf nicht vorbereitet, insbesondere die Menschen in den ländlichen Gebieten am Rande der Zivilisation.“
Diese Hürden im Ausland verdeutlichen potenzielle Fallstricke für die USA.
Die Sozialdienste stehen bereits unter dem Druck, sich zu „modernisieren“ – ein Vorstoß, der unter dem Team der sogenannten Technokraten der Trump-Administration begann.
Musks DOGE geht noch einen Schritt weiter und strebt eine Halbierung der Bundesbelegschaft an. „Alles, was maschinell automatisiert werden kann, wird automatisiert werden. Und die Technokraten werden die Bürokraten ersetzen“, sagte eine mit den Plänen von DOGE vertraute Person der Washington Post.
DOGE hat mit seinem Fokus auf Automatisierung eher Verwirrung als Effizienz gestiftet.
Ein kürzlich aufgetretener Zwischenfall bei der SSA verdeutlicht die Tragweite der Angelegenheit. Mitarbeiter der DOGE-Abteilung sollen unzählige Leistungsempfänger fälschlicherweise als „verstorben“ markiert und deren Zahlungen eingestellt haben. „Etwa vier Millionen Menschen wurden als verstorben markiert“, sagte Rennie Glasgow, langjährige Sachbearbeiterin für Leistungsanträge bei der Behörde, gegenüber The Daily Beast. „Wir erhalten eine E-Mail mit dem Inhalt: ‚Wenn diese Personen mit ihremdentpersönlich erscheinen, können Sie ihre Leistungen wiederherstellen.‘“ Dieser Wiederherstellungsprozess könne „etwa drei bis vier Tage“ dauern, fügte Glasgow hinzu, da die Mitarbeiter jeden Leistungsempfänger manuell im System „wiederbeleben“ müssten.
plant DOGE auch, die gesamte Software-Quellcodebasis der SSA innerhalb weniger Monate neu zu schreiben. Quellen zufolge wird das Team, um diesen Termin einzuhalten, mit ziemlicher Sicherheit auf KI für die Codierung zurückgreifen – ein Verfahren, das aufgrund der hohen Fehlerrate maschinell generierten Codes eine genaue Überwachung erfordert.
der bisherigen durchwachsenen Erfolgsbilanz von DOGE könnte eine automatisierte Umstrukturierung noch mehr trac verursachen .
Manche Beobachter vermuten, dass diese Fehler Absicht sind. Eine Gruppe von Kritikern argumentiert, dass DOGE keine echte Reform, sondern die Destabilisierung der SSA anstrebt, um den Weg für eine Privatisierung zu ebnen. Sollte dies zutreffen, könnten die Fehlfunktionen und das Chaos genau das sein, was Musks Team beabsichtigt.
