- NYCs KI-Chatbot informiert Unternehmen falsch und birgt rechtliche Risiken, indem er ungenaue Beratung zu kritischen Themen wie Diskriminierung im Wohnungswesen bietet.
- Experten warnen vor der „gefährlich ungenauen
- Forderungen nach Korrekturmaßnahmen betonen die Notwendigkeit von Rechenschaftspflicht und Genauigkeit beim Einsatz von KI-Technologie für öffentliche Dienstleistungen, um das öffentliche Vertrauen zu wahren und die Rechte der Bürgerinnen und Bürger zu schützen.
KI-Chatbot: New York Citys Bemühungen, KI in staatlichen Abläufen einzusetzen, stoßen auf ein Missgeschick, da die Stadt reportedly festgestellt hat, dass ihr KI-basierter Chatbot Unternehmen falsche und in einigen Fällen sogar potenziell rechtswidrige Ratschläge erteilt. Der im Oktober gestartete Chatbot, der angeblich dabei helfen sollte, sich durch die Komplexitäten des Geschäftsbetriebs in der Stadt zurechtzufinden, wurde seither für seine ungenauen Antworten kritisiert, insbesondere in Fragen der Wohnungspolitik und der Arbeitnehmerrechte.
Irreführende Informationen wecken Bedenken
In einer weiteren Untersuchung stellte The Markup fest, dass der Online-Chatbot bei kritischen Themen wie Wohnungsverteilung und den Rechten von Mietern meist unvollständige oder schlicht falsche Informationen lieferte. Auf die Frage „Sollte ein Vermieter einen Mieter mit Section-8-Status oder Mietbeihilfe akzeptieren?“ gibt er eine falsche, verneinende Antwort. Dies steht im Widerspruch zum Gesetz der Stadt New York, das Vermieter verbietet, Mieter aufgrund ihrer Einkommensquellen zu diskriminieren, mit wenigen Ausnahmen.
Experten und Befürworter haben Alarm geschlagen angesichts der möglichen Folgen der Fehlinformationen des Chatbots. Ein lokaler Experte für Wohnungspolitik bezeichnete die Fehler als „gefährlich ungenau“ mit lebensverändernden Auswirkungen sowohl für Vermieter als auch für Mieter. Durch die Befolgung der Ratschläge des Bots würden Vermieter in Praktiken verfallen, die sowohl Antidiskriminierungsgesetze als auch Mieterrechte verletzen würden, wodurch das Problem der Wohnungsungleichheit und wirtschaftlichen Ungerechtigkeit in der Stadt weiter verschärft würde.
Aufrufe zu Abhilfemaßnahmen
Die Enthüllungen haben Forderungen nach einer Untersuchung der Mängel des städtischen KI-Chatbots durch die Stadt und der Sicherstellung, dass er Nutzern tatsächlich genaue und rechtlich einwandfreie Informationen liefert, laut werden. Befürworter dieser Ansicht betonen, dass schlechte Ratschläge korrigiert werden müssen und dass Schutzmaßnahmen gewährleistet sein müssen, damit solche Unfälle in der Zukunft vermieden werden. Während New York City seine technologischen Fortschritte weiterhin in die Governance übersetzt, müssen höchste Transparenz und Genauigkeit im Vordergrund stehen, um das Vertrauen der Öffentlichkeit sowohl für Unternehmen als auch für Bewohner gleichermaßen zu wahren.
Der Vorfall bringt die Komplexität und die Herausforderungen zutage, die bei der Einführung von KI-Technologie für öffentliche Dienste unvermeidlich sind und eine strenge Qualitätskontrolle erfordern. Die Einführung von KI muss jedoch sicherstellen, dass es starke Mechanismen zur Überprüfung dieser Informationen gibt und der daraus resultierende Schaden gemindert wird, trotz des Potenzials, das sie für die Verbesserung der Effizienz und Zugänglichkeit bietet. Während Städte und Regierungen weiterhin KI-gestützte Lösungen einführen, müssen Transparenz, Rechenschaftspflicht und die Einhaltung gesetzlicher Standards im Prozess gewahrt werden, um die Rechte und das Wohlergehen jedes Bürgers zu schützen.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
John Palmer
John Murangiri kam mit Kenntnissen in Marktanalyse zu Cryptopolitan. John (auch bekannt als JP) hat an der Universität Nairobi einen Bachelorabschluss in Massenkommunikation und Medienstudien erworben. Er hat zuvor Crypto-Markt-Einblicke für InsideBitcoins.com und Metacoingraph beigesteuert.
