New Yorks KI-gestützter Chatbot wegen Verbreitung falscher Informationen in der Kritik

Der KI-gestützte Chatbot der Stadt New York , der Kleinunternehmern helfen soll, steht wegen ungenauer und irreführender Ratschläge in der Kritik. Trotz Berichten über fehlerhafte Anweisungen hat Bürgermeister Eric Adams das Tool weiterhin auf der offiziellen Regierungswebsite angeboten und die Entscheidung verteidigt, obwohl er die Mängel einräumte.

Kritik an ungenauen Ratschlägen nimmt zu

Der im Oktober als Informationsportal für die städtische Bürokratie eingeführte Chatbot steht in der Kritik, weil er zu verschiedenen Themen, darunter Wohnungspolitik, Arbeitnehmerrechte und Wirtschaftsbestimmungen, fehlerhafte Informationen liefert. Kritiker argumentieren, dass die mangelhaften Antworten des Bots die Risiken verdeutlichen, die entstehen, wenn Regierungen KI- Technologie ohne ausreichende Kontrolle einsetzen.

Die Informatikprofessorin Julia Stoyanovich vom Zentrum für verantwortungsvolle KI der New York University hat das Vorgehen der Stadt als leichtsinnig und unverantwortlich kritisiert. Sie betont, dass die Einführung unerprobter Software ohne angemessene Aufsicht erhebliche Probleme mit sich bringe. Bürgermeister Adams hingegen hält daran fest, dass Probleme bei der Implementierung neuer Technologien ein natürlicher Bestandteil seien und deren Behebung entscheidend für Verbesserungen sei.

Forderungen nach Verantwortlichkeit und Verbesserung

Angesichts zunehmender Bedenken hinsichtlich der Ungenauigkeiten des Chatbots betonen Experten die Notwendigkeit von Verantwortlichkeit und Verbesserungen. Rosalind Black, Leiterin des Bereichs Wohnungswesen bei Legal Services NYC, hebt die Fehlinformationen des Bots zur Wohnungspolitik hervor und unterstreicht die Wichtigkeit korrekter Beratung. Branchenexperten wie Andrew Rigie von der NYC Hospitality Alliance warnen ebenfalls vor den potenziellen Haftungsrisiken, die sich aus der Bereitstellung falscher Rechtsinformationen für Unternehmen ergeben.

Trotz Kritik bekräftigt das New Yorker Amt für Technologie und Innovation sein Engagement für die Verbesserung der Genauigkeit und Effektivität des Chatbots. Sprecherin Leslie Brown räumt zwar die Mängel des Pilotprojekts ein, betont aber dessen positive Auswirkungen, da es Tausenden von Nutzern zeitnahe Hilfe bietet. Die Stadt sichert zu, das Tool weiter zu optimieren, um kleine Unternehmen in ganz New York City.

Der KI-gestützte Chatbot der Stadt New York, der Kleinunternehmer unterstützen soll, steht wegen der Verbreitung ungenauer und irreführender Informationen in der Kritik. Kritiker äußern Bedenken hinsichtlich der potenziellen Risiken des Einsatzes von KI-Technologie ohne angemessene Aufsicht. Die Stadtverwaltung ist jedoch weiterhin bestrebt, die Leistung des Chatbots zu verbessern und seine Genauigkeit bei der Unterstützung der Bedürfnisse von Unternehmern in der ganzen Stadt sicherzustellen.