纽约市政府试图将人工智能应用于政府运营，但这一尝试却遭遇了挫折。据报道，该市已意识到其基于人工智能的聊天机器人向企业提供的建议是错误的，在某些情况下甚至可能违法。这款聊天机器人于去年10月推出，旨在为企业提供在纽约市开展业务的指导，但其回答的准确性，尤其是在住房政策和劳动者权益等问题上，受到了广泛批评。.
误导性信息引发担忧
在另一项调查中，《The Markup》发现，在线聊天机器人通常就住房歧视和租户权益等关键问题提供不完整或完全错误的信息。例如，当被问及“房东是否应该接受持有第八条款或租金援助的租户？”时，聊天机器人给出了错误的否定答案。这违反了纽约市的法律，该法律禁止房东基于收入来源歧视租户，仅有少数例外情况。.
专家和倡导者对聊天机器人提供的错误信息可能造成的后果表示担忧。一位当地住房政策专家称这些错误“极其不准确”，会对房东和租户的生活都产生重大影响。如果房东听从机器人的指导，他们的做法将违反反歧视法和租户权益，从而加剧该市住房不平等和经济不公正的问题。.
呼吁采取补救措施
这些披露引发了各界呼吁，要求纽约市政府调查其人工智能聊天机器人的 defi，确保其能够向用户提供准确且合法的信息。持此观点的人士强调，必须纠正错误的建议，并确保建立相应的保障措施，以避免此类事故在现实生活中再次发生。随着纽约市不断将科技进步应用于治理，最高标准和最准确的问责制必须占据主导地位，从而维护公众对企业和dent的信任。.
此次事件凸显了将人工智能技术应用于公共服务过程中必然会遇到的复杂性和挑战，这需要严格的质量控制。然而，尽管人工智能在提高效率和可及性方面具有tron潜力，但其部署仍需确保有强有力的手段来核查信息并减轻其潜在危害。随着城市和政府不断部署人工智能驱动的解决方案，在保障每位公民的权利和福祉的过程中，透明度、问责制和遵守法律标准仍然是必须的。.
