NYC verteidigt KI-Chatbot angesichts von Kritik und rechtlichen Fehltritten.

Die Stadt New York hat einen Chatbot auf ihrer Website eingeführt, der von der KI-Technologie von Microsoft Azure angetrieben wird, um Nutzern den einfachen Austausch von Informationen mit Kleinunternehmern zu ermöglichen und Stadtvorschriften einfach und verständlich zu machen. 

Der intelligente Chatbot wurde als All-in-One-Lösung im Meer der Stadtgesetze und -vorschriften konzipiert, hat aber anstatt wertvolle Informationen zu liefern, eine wachsende hitzige Debatte über die Genauigkeit und oft absurde Ratschläge ausgelöst.

Die Auswirkungen von Chatbots auf die Rechtsberatung

Die Rolle irreführender Ratschläge und rechtlicher Herausforderungen kann im täglichen Hindernissen, mit denen Startups konfrontiert sind, nicht hoch genug eingeschätzt werden. Dieser Fall ist das Hauptziel des Chatbots, als virtueller Assistent in „Echtzeit“ für Geschäftsleute zu agieren und ihre bürokratischen Probleme zu lösen, einschließlich Fragen zu den Stadtvorschriften. 

Die Richtlinien haben ihre Ziele auch durch die falsche Gewichtung der Rechtsstandards verfehlt, die in einigen Fällen sogar im Widerspruch zu den Gesetzen der Stadt New York stehen.

Entdeckungen und Bestätigungen, einschließlich der vom Markup durchgeführten Tests, zeigten, dass die Ratschläge des Chatbots von illegalen Handlungen – wie Arbeitgebern das Stehlen von Trinkgeldern und sexuelle Diskriminierung basierend auf Schwangerschaft zu raten – bis hin zu bizarrem Verhalten reichten, zum Beispiel, als der Bot offen erklärte, dass es zulässig sei, Lebensmittel zu testen, die von Ratten angepickt wurden. 

Der Fehler kann in verschiedenen Bereichen wie Innenpolitik, Arbeitslosenentschädigung und Geschäftsbetrieb auftreten, was die Zuverlässigkeit des Chatbots als Rechtsquelle verringert.

Ein Beispiel ist, als Arbeitgebern fälschlicherweise mitgeteilt wurde, sie könnten Unternehmen betreiben, die nur elektronische Zahlungsmittel zulassen, und dass es keine Regeln für Arbeitnehmertrinkgelder gibt. Vermietern wurde fehlerhafte Ratschläge zur Räumung von Mietern und zur Missachtung von Einkommensquellen wie Veteran Affairs Supportive Housing-Gutscheinen gegeben. Dieselbe Art von Empfehlungen behindert nicht nur den rechtlichen Status von Unternehmen, was einen Verstoß gegen die Ethik darstellt, sondern bringt auch ein ethisches Problem mit sich.

Balance zwischen Innovation und Verantwortung beim Einsatz von KI

Im Gegensatz zur negativen Bedrohung durch die Technologie, wie z. B. systematisierte Verzerrungen und Kontrollverlust, verteidigen die Befürworter von KI in New York City, darunter Bürgermeister Eric Adams, die vorgeschlagene Technologieimplementierung. 

Bürgermeister Adams betont, dass technologische Fortschritte ein langer Prozess sind, der durch kontinuierliche Versuche und Ratschläge perfektioniert werden muss, und rät uns, beim Chatbot beharrlicher zu sein. 

Diese Position, wie zu erwarten, findet nicht nur keine Akzeptanz, sondern wird auch nicht anerkannt. Kritiker, angeführt von Julia Stoyanovich, Professorin für Informatik und Direktorin am Center for Responsible AI der New York University, behaupteten, dass das administrative Verschweilen der noch nicht systematisch geprüften Software eine Gleichgültigkeit gegenüber verantwortungsvoller Governance widerspiegle.

Als reine Software könnte der Chatbot Fehler machen oder inhärente Verzerrungen aufweisen. Die Entscheidung der Stadt, den Chatbot weiterhin zu betreiben und das Gespräch mit dem Hinweis zu beginnen, dass die Ratschläge des Bots nicht immer genau sein könnten, verlagert die Verantwortung für die Überprüfung der Daten auf die Nutzer. 

Dieses Problem hat daher eine Debatte darüber ausgelöst, ob es ausreichende Mechanismen geben sollte, um sicherzustellen, dass KI nicht dort eingesetzt wird, wo sie für regulatorische Zwecke ungenau ist.

Implementierungsplan für Kleinunternehmer

Die Notlage der Unternehmer in New York City signalisiert eine proverbial „rote Flagge“; selbst Technologie mit KI als Grundlage steht vor dem Problem der Zuverlässigkeit. KI kann Bürokratie reduzieren, aber die Fehler des Chatbots untergraben Genauigkeit und Zuverlässigkeit, die im öffentlichen Sektor unverzichtbar sind.

Eigentümer kleiner Unternehmen, die mit der verbalen Akrobatik der Stadtgesetze konfrontiert sind, werden feststellen, dass das Bot-Programm KI-Ratschläge als Knopf für eine manuelle Bewertung missbrauchen kann. Experten schlagen vor, dass es notwendig ist, menschliche Rechtsprofis für Angelegenheiten der Compliance und Regulierung einzusetzen und die vom Chatbot erhaltenen Hinweise als vorläufige, nicht endgültige Lösungen zu betrachten.

Alles in allem deutet die Show ein neues Paradigma für das KI-Experiment der Stadt an, das notwendige strategische Reformen vor Beginn ähnlicher technologischer Eingriffe in ihrer Gerichtsbarkeit übernimmt. Letztlich liegt der Kern des Problems im Gleichgewicht zwischen Innovation und Verantwortung, das entweder zur Integrität der öffentlichen Dienste beitragen oder das Vertrauen der Gemeinschaft gefährden kann.

Die Behörden von New York City sind von der Technologie immer noch nicht abgeschreckt und unterstützen weiterhin ihren KI-Chatbot, der wertvolle Lehren über die Notwendigkeit von Datenschutzmaßnahmen liefern könnte. Wenn es um den Einsatz von KI zum öffentlichen Wohl geht, sollte er verantwortungsvoll erfolgen, zusammen mit der entscheidenden Transparenz und dem Ziel der ständigen Verbesserung. 

Andererseits sollten Kleinunternehmer solche Ressourcen mit einer gesunden Dosis Vorsicht nutzen. Sie sollten eher traditionellen Rechtsquellen nachgeben und sich von diesen beraten lassen.