NYC’s KI-gestützter Chatbot unter Beschuss wegen der Verbreitung falscher Informationen
- NYCs KI-Chatbot, der kleinen Unternehmen helfen soll, wird dafür kritisiert, falsche Ratschläge zu erteilen.
- Bürgermeister Eric Adams verteidigt die Beibehaltung des Chatbots trotz eingestandener Mängel.
- Experten warnen vor den Gefahren, sich auf ungeprüfte KI-Systeme ohne angemessene Aufsicht zu verlassen.
New York Citys KI-gestützter Chatbot, der entwickelt wurde, um Kleinunternehmern zu helfen, steht unter starker Kritik, weil er ungenaue und irreführende Ratschläge erteilt. Trotz Berichte über fehlerhafte Anleitung hat Bürgermeister Eric Adams das Tool auf der offiziellen Regierungswebsite beibehalten, verteidigt die Entscheidung und erkennt gleichzeitig seine Mängel an.
Kritik an ungenauen Ratschlägen wächst
Im Oktober als Ressource-Hub zur Navigation durch die bürokratische Landschaft der Stadt gestartet, wurde der Chatbot für die Bereitstellung fehlerhafter Informationen zu verschiedenen Themen, einschließlich Wohnungspolitik, Arbeitnehmerrechten und Geschäftsvorschriften, unter die Lupe genommen. Kritiker argumentieren, dass die fehlerhaften Antworten des Bots die Risiken unterstreichen, die damit verbunden sind, wenn Regierungen KI-Technologie ohne ausreichende Aufsicht übernehmen.
Der Informatikprofessor Julia Stoyanovich vom Center for Responsible AI der New York University hat den Ansatz der Stadt kritisiert und ihn als rücksichtslos und unverantwortlich bezeichnet. Sie behauptet, dass die Einführung von unbewährter Software ohne ordnungsgemäße Aufsicht erhebliche Herausforderungen darstellt. Währenddessen behauptet Bürgermeister Adams, dass das Auftreten von Problemen ein natürlicher Teil der Implementierung neuer Technologie ist, und schlägt vor, dass die Behebung dieser Probleme entscheidend für die Verbesserung ist.
Forderungen nach Rechenschaftspflicht und Verbesserung
Während die Bedenken über die Ungenauigkeiten des Chatbots wachsen, betonen Experten die Notwendigkeit von Rechenschaftspflicht und Verbesserung. Rosalind Black, Citywide Housing Director bei Legal Services NYC, hebt die Fehlinformationen des Bots bezüglich der Wohnungspolitik hervor und betont die Bedeutung genauer Anleitung. Ebenso warnen Branchenprofis wie Andrew Rigie von der NYC Hospitality Alliance vor den potenziellen Haftungsrisiken, Unternehmen falsche rechtliche Informationen zu liefern.
Trotz der Kritik bleibt das NYC Office of Technology and Innovation dem Streben nach verbesserter Genauigkeit und Wirksamkeit des Chatbots verpflichtet. Während die Mängel des Pilotprogramms anerkannt werden, betont die Sprecherin Leslie Brown die positive Auswirkung bei der Bereitstellung zeitnaher Unterstützung für Tausende von Nutzern. Die Stadt verspricht, das Tool weiterhin zu verfeinern, um Kleinunternehmen in New York City besser zu unterstützen.
Der KI-gestützte Chatbot der Stadt New York, der kleine Unternehmen unterstützen soll, steht in der Kritik, weil er ungenaue und irreführende Informationen verbreitet. Kritiker äußern Bedenken hinsichtlich der potenziellen Risiken des Einsatzes von KI-Technologie ohne angemessene Aufsicht. Stadtbeamte sind jedoch weiterhin bestrebt, die Leistungsfähigkeit des Chatbots zu verbessern und seine Genauigkeit bei der Unterstützung der Bedürfnisse von Unternehmern in der gesamten Stadt sicherzustellen.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
James Kinoti
James ist ein Krypto-Enthusiast, der es liebt, Wissen über Fintech, Kryptowährungen sowie Blockchain und Zukunftstechnologien zu teilen. Die neuesten Innovationen in der Krypto-Branche, Crypto-Gaming, KI, Blockchain-Technologie und weitere Technologien sind seine Leidenschaft. Seine Mission: stets auf dem Laufenden zu bleiben bei transformativen Anwendungen in verschiedenen Branchen.
