纽约市的 AI 驱动聊天机器人因发布虚假信息而受到抨击

纽约市的 AI 驱动 聊天机器人旨在帮助小企业主，因提供不准确和误导性建议而面临严厉批评。尽管有报告称指导存在缺陷，市长埃里克·亚当斯 仍在官方政府网站上保留该工具，在承认其缺点的同时为这一决定辩护。

对不准确建议的批评日益增多

该聊天机器人于 10 月作为导航城市官僚格局的资源中心推出，因在各种主题（包括住房政策、工人权利和商业法规）上提供错误信息而受到审查。批评者认为，机器人有缺陷的回应强调了政府在缺乏足够监督的情况下拥抱 人工智能 技术的风险。

纽约大学负责任人工智能中心的计算机科学教授朱莉娅·斯托亚诺维奇（Julia Stoyanovich）批评了该市的做法，称其鲁莽且不负责任。她断言，在没有适当监督的情况下推出未经证实的软件带来了重大挑战。与此同时，亚当斯市长表示，遇到问题是在实施新技术过程中自然的一部分，并建议解决这些问题对于改进至关重要。

呼吁问责和改进

随着对聊天机器人不准确性的担忧日益加剧，专家强调需要问责和改进。Legal Services NYC 的全市住房主任罗莎琳德·布莱克（Rosalind Black）强调了该机器人在住房政策方面的错误信息，强调了准确指导的重要性。同样，来自纽约市酒店业联盟的安德鲁·里吉（Andrew Rigie）等行业专业人士警告称，向企业提供错误的法律信息可能会带来潜在的法律责任。

尽管受到批评，纽约市技术和创新办公室仍致力于提高聊天机器人的准确性和有效性。在承认试点计划缺陷的同时，发言人莱斯利·布朗（Leslie Brown）强调其在为数千用户提供及时援助方面的积极影响。该市承诺继续完善该工具，以更好地支持 纽约市 各地的小企业。

旨在协助小企业主的纽约市 AI 驱动聊天机器人因传播不准确和误导性信息而受到审查。批评者对在没有充分监督的情况下部署 AI 技术的潜在风险表示担忧。然而，市政府官员仍致力于提高聊天机器人的性能，并确保其在支持全市企业家需求方面的准确性。