New York verteidigt KI-Chatbot trotz Kritik und juristischer Fehltritte.

Die Stadt New York hat auf ihrer Website einen Chatbot eingeführt, der auf der KI-Technologie von Microsoft Azure basiert. Dieser soll Nutzern helfen, auf einfache Weise Informationen mit Kleinunternehmern auszutauschen und städtische Vorschriften unkompliziert zu gestalten. 

Der intelligente Chatbot war als zentrale Anlaufstelle im Dschungel der städtischen Gesetze und Vorschriften gedacht, doch anstatt wertvolle Informationen zu liefern, hat er eine immer hitzigere Debatte über die Genauigkeit und – zumeist – absurde Ratschläge ausgelöst.

Der Einfluss von Chatbots auf die Rechtsberatung

Die Bedeutung von Fehlberatung und rechtlichen Auseinandersetzungen für Startups im Arbeitsalltag ist nicht zu unterschätzen. Genau hier setzt der Chatbot an: Er soll Geschäftsleuten als virtueller Echtzeit-Assistent zur Seite stehen und ihre bürokratischen Probleme lösen, beispielsweise Fragen zu städtischen Vorschriften. 

Die Richtlinien haben ihr Ziel auch deshalb verfehlt, weil sie rechtliche Standards falsch gewichten, was in einigen Fällen sogar gegen die Gesetze der Stadt New York verstößt.

Die Ermittlungen und Bestätigungen, einschließlich der von Markup durchgeführten Tests, zeigten, dass die Ratschläge des Chatbots von illegalen Aussagen – wie etwa dem Hinweis an Arbeitgeber auf den Diebstahl von Trinkgeldern und sexueller Diskriminierung aufgrund einer Schwangerschaft – bis hin zu bizarren Aussagen reichten. So erklärte der Bot beispielsweise offen, dass es zulässig sei, von Ratten angepicktes Futter zu testen. 

Der Fehler kann in verschiedenen Bereichen auftreten, wie etwa in der Innenpolitik, der Arbeitnehmerentschädigung und im Geschäftsbetrieb, was die Verlässlichkeit des Chatbots als Rechtsquelle verringert.

Ein Beispiel dafür ist die falsche Information an Arbeitgeber, dass sie Unternehmen führen könnten, die ausschließlichtronZahlungsmethoden akzeptieren und für Trinkgelder keine Regelungen gelten. Vermieter erhielten fehlerhafte Richtlinien zur Kündigung von Mietern und zur Missachtung von Einkommensquellen wie den Wohngutscheinen des US-Veteranenministeriums. Derartige Empfehlungen gefährden nicht nur den rechtlichen Status von Unternehmen, was einen Verstoß gegen die Ethik darstellt, sondern werfen auch ein ethisches Problem auf.

Innovation und Verantwortung beim KI-Einsatz in Einklang bringen

Anstatt die negativen Gefahren der Technologie zu befürchten, wie zum Beispiel Voreingenommenheit, Systematisierung und Kontrollverlust, verteidigen die Befürworter von KI in New York City, wie unter anderem Bürgermeister Eric Adams, die geplante Implementierung der Technologie. 

Bürgermeister Adams betont, dass der technologische Fortschritt, soweit wir wissen, ein langer Prozess ist, der durch kontinuierliche Versuche perfektioniert werden muss, und rät uns, beim Chatbot beharrlicher zu sein. 

Eine solche Position stößt erwartungsgemäß nicht nur auf Ablehnung, sondern findet auch keine Anerkennung. Kritiker, allen voran Julia Stoyanovich, Professorin für Informatik und Direktorin des Zentrums für verantwortungsvolle KI an der New York University, bemängelten, dass die administrative Geheimhaltung der Software, die weiterhin ohnematic Überprüfung eingesetzt wurde, eine Gleichgültigkeit gegenüber verantwortungsvoller Unternehmensführung widerspiegelte.

Da es sich lediglich um Software handelt, kann der Chatbot Fehler machen oder systembedingte Voreingenommenheiten aufweisen. Die Entscheidung der Stadt, den Chatbot weiterhin zu betreiben und die Konversation mit dem Hinweis zu beginnen, dass die Empfehlungen des Bots möglicherweise nicht immer korrekt sind, verlagert die Verantwortung für die Überprüfung der Daten jedoch auf die Nutzer. 

Dieses Problem hat daher eine Debatte darüber ausgelöst, ob genügend Mechanismen vorhanden sein sollten, um sicherzustellen, dass die KI nicht dort eingesetzt wird, wo sie für regulatorische Zwecke nicht präzise ist.

Umsetzungsplan für Kleinunternehmer

Die Notlage von New Yorker Unternehmern ist ein deutliches Warnsignal: Selbst Technologien, die auf KI basieren, stehen vor Zuverlässigkeitsproblemen. KI kann zwar Bürokratie abbauen, doch die Fehler von Chatbots zeugen von deren Ungenauigkeit und Zuverlässigkeit, die gerade im öffentlichen Sektor unerlässlich sind.

Kleinunternehmer, die mit den komplexen Formulierungen städtischer Verordnungen konfrontiert sind, werden feststellen, dass Bot-Programme die KI-Empfehlungen missbrauchen können, indem sie diese als Ersatz für eine manuelle Prüfung nutzen. Experten empfehlen daher, für Fragen der Einhaltung von Vorschriften und Regulierungen weiterhin juristische Fachkräfte hinzuzuziehen und die Hinweise des Chatbots lediglich als vorläufige, nicht als defiLösungsansätze zu betrachten.

Insgesamt deutet die Sendung auf ein neues Paradigma für das KI-Experiment der Stadt hin: die Umsetzung notwendiger strategischer Reformen, bevor ähnliche technologische Eingriffe im eigenen Zuständigkeitsbereich erfolgen. Letztlich geht es bei der Balance zwischen Innovation und Verantwortung um den Kern des Problems, das entweder zur Integrität öffentlicher Dienstleistungen beitragen oder das Vertrauen der Bevölkerung gefährden kann.

Die New Yorker Behörden lassen sich von der Technologie weiterhin nicht abschrecken und setzen nach wie vor auf ihren KI-Chatbot, der wertvolle Erkenntnisse über die Notwendigkeit des Datenschutzes liefern könnte. Wenn KI im öffentlichen Interesse eingesetzt wird, sollte dies verantwortungsvoll geschehen, wobei Transparenz unerlässlich ist und ständige Verbesserungen angestrebt werden. 

Andererseits sollten Kleinunternehmer solche Ressourcen mit Vorsicht nutzen. Sie sollten sich eher an traditionelle Rechtsquellen wenden und dort Rat einholen.