纽约市人工智能聊天机器人因散布虚假信息而受到抨击

纽约市一款旨在帮助小企业主的AI聊天机器人因提供不准确和误导性建议而饱受诟病。尽管有报道称其指导存在缺陷，市长埃里克·亚当斯仍将该工具保留在政府官方网站上，并在承认其不足的同时，为这一决定辩护。

针对不准确建议的批评声浪日益高涨

该聊天机器人于10月上线，旨在为市民提供了解市政运作流程的资源中心。然而，它因在住房政策、劳动者权益和商业法规等诸多领域提供错误信息而备受诟病。批评人士认为，该机器人的错误回答凸显了政府在缺乏充分监管的情况下应用 人工智能 技术的风险。

纽约大学负责任人工智能中心计算机科学教授朱莉娅·斯托亚诺维奇批评了纽约市的做法，称其鲁莽且不负责任。她断言，在缺乏适当监管的情况下推广未经检验的软件会带来重大挑战。与此同时，市长亚当斯则坚持认为，遇到问题是新技术实施过程中不可避免的一部分，并指出解决这些问题对于改进至关重要。.

呼吁追究责任和改进

随着人们对聊天机器人信息不准确的担忧日益加剧，专家们强调了追究责任和改进的必要性。纽约市法律服务处（Legal Services NYC）的全市住房主管罗莎琳德·布莱克（Rosalind Black）指出，该机器人在住房政策方面存在错误信息，并强调了提供准确指导的重要性。同样，纽约市酒店业联盟（NYC Hospitality Alliance）的安德鲁·里吉（Andrew Rigie）等业内人士也警告说，向企业提供错误的法律信息可能会带来潜在的法律责任。.

尽管受到批评，纽约市技术与创新办公室仍致力于提升聊天机器人的准确性和有效性。发言人莱斯利·布朗在承认试点项目存在缺陷的同时，强调了其在为数千用户提供及时帮助方面的积极影响。市政府承诺将继续完善该工具，以更好地支持 纽约市。

纽约市旨在帮助小企业主的AI聊天机器人因传播不准确和误导性信息而受到审查。批评人士对在缺乏充分监管的情况下部署AI技术的潜在风险表示担忧。然而，市政府官员仍然致力于改进聊天机器人的性能，并确保其能够准确地满足全市企业家的需求。.