Der Versuch der Stadt New York, KI in der Verwaltung einzusetzen, gerät ins Stocken. Berichten zufolge hat die Stadt festgestellt, dass ihr KI-basierter Chatbot Unternehmen falsche und in einigen Fällen sogar potenziell rechtswidrige Ratschläge gibt. Der im Oktober eingeführte Chatbot, der eigentlich bei der Bewältigung der komplexen Geschäftsabläufe in der Stadt helfen sollte, steht seither wegen seiner ungenauen Antworten in der Kritik, insbesondere zu Themen wie Wohnungspolitik und Arbeitnehmerrechten.
Irreführende Informationen geben Anlass zur Sorge
In einer weiteren Untersuchung deckte The Markup auf, dass der Online-Chatbot zu wichtigen Themen wie Wohnungsdiskriminierung und Mieterrechten meist unvollständige oder schlichtweg falsche Informationen lieferte. Die Frage lautete beispielsweise: „Sollte ein Vermieter einen Mieter akzeptieren, der Wohngeld nach Section 8 oder Mietbeihilfe bezieht?“ In diesem Fall gab der Chatbot eine falsche, negative Antwort. Dies widerspricht dem New Yorker Gesetz, das Vermietern – bis auf wenige Ausnahmen – verbietet, Mieter aufgrund ihrer Einkommensquelle zu diskriminieren.
Experten und Interessenvertreter haben vor den potenziellen Folgen der Fehlinformationen des Chatbots gewarnt. Ein lokaler Experte für Wohnungspolitik bezeichnete die Fehler als „gefährlich ungenau“ mit weitreichenden Konsequenzen für Vermieter und Mieter. Indem sie den Anweisungen des Bots folgen, würden Vermieter Praktiken anwenden, die sowohl gegen Antidiskriminierungsgesetze als auch gegen Mieterrechte verstoßen und somit die Wohnungsungleichheit und wirtschaftliche Ungerechtigkeit in der Stadt verschärfen.
Forderungen nach Abhilfemaßnahmen
Die Enthüllungen haben Forderungen laut werden lassen, dass die Stadt die defiihres KI-Chatbots untersucht und sicherstellt, dass dieser den Nutzern korrekte und rechtlich einwandfreie Informationen liefert. Befürworter dieser Ansicht betonen, dass fehlerhafte Beratung korrigiert werden muss und dass Schutzmaßnahmen vorhanden sein müssen, damit solche Fehler im Alltag nicht mehr vorkommen. Da New York City seine technologischen Fortschritte weiterhin in die Verwaltung einbringt, muss höchste Transparenz und Genauigkeit oberste Priorität haben, um das Vertrauen der Öffentlichkeit in Unternehmen unddentgleichermaßen zu erhalten.
Die Veranstaltung rückt die Komplikationen und Herausforderungen in den Vordergrund, die mit dem Einsatz von KI-Technologie im öffentlichen Dienst einhergehen und eine strenge Qualitätskontrolle erfordern. Trotz des Potenzials, Effizienz und Zugänglichkeit zu verbessern, muss der Einsatz von KI sicherstellen, dass die gewonnenen Informationentronüberprüft und die damit verbundenen Risiken minimiert werden. Städte und Regierungen setzen weiterhin KI-gestützte Lösungen ein, wobei Transparenz, Rechenschaftspflicht und die Einhaltung rechtlicher Standards unerlässlich sind, um die Rechte und das Wohlergehen aller Bürger zu gewährleisten.
