Chatbot com inteligência artificial de Nova York é criticado por disseminar informações falsas

O chatbot com inteligência artificial da cidade de Nova York , projetado para auxiliar pequenos empresários, enfrenta fortes críticas por fornecer conselhos imprecisos e enganosos. Apesar dos relatos de orientações falhas, o prefeito Eric Adams manteve a ferramenta no site oficial do governo, defendendo a decisão, embora reconhecendo suas deficiências.

Aumentam as críticas em relação aos conselhos imprecisos

Lançado em outubro como um centro de recursos para navegar pelo cenário burocrático da cidade, o chatbot tem sido alvo de críticas por fornecer informações errôneas sobre diversos tópicos, incluindo políticas habitacionais, direitos trabalhistas e regulamentações comerciais. Os críticos argumentam que as respostas falhas do bot ressaltam os riscos de governos adotarem de IA sem a devida supervisão.

A professora de ciência da computação Julia Stoyanovich, do Centro para Inteligência Artificial Responsável da Universidade de Nova York, criticou a abordagem da cidade, classificando-a como imprudente e irresponsável. Ela afirma que a implementação de softwares não testados sem a devida supervisão apresenta desafios significativos. Enquanto isso, o prefeito Adams sustenta que encontrar problemas é uma parte natural da implementação de novas tecnologias e sugere que resolvê-los é crucial para a melhoria.

Apelos por responsabilização e melhoria

À medida que crescem as preocupações com as imprecisões do chatbot, especialistas enfatizam a necessidade de responsabilização e melhorias. Rosalind Black, Diretora de Habitação da Legal Services NYC, destaca a desinformação do bot em relação às políticas habitacionais, ressaltando a importância de orientações precisas. Da mesma forma, profissionais do setor, como Andrew Rigie, da NYC Hospitality Alliance, alertam para as possíveis responsabilidades legais de fornecer informações jurídicas incorretas às empresas.

Apesar das críticas, o Escritório de Tecnologia e Inovação da cidade de Nova York mantém o compromisso de aprimorar a precisão e a eficácia do chatbot. Embora reconheça as falhas do programa piloto, a porta-voz Leslie Brown enfatiza seu impacto positivo ao fornecer assistência oportuna a milhares de usuários. A cidade se compromete a continuar aprimorando a ferramenta para melhor apoiar as pequenas empresas em toda a cidade de Nova York.

O chatbot com inteligência artificial da cidade de Nova York, criado para auxiliar pequenos empresários, está sob escrutínio por disseminar informações imprecisas e enganosas. Críticos levantam preocupações sobre os riscos potenciais da implantação da tecnologia de IA sem a devida supervisão. No entanto, as autoridades municipais permanecem comprometidas em aprimorar o desempenho do chatbot e garantir sua precisão no atendimento às necessidades dos empreendedores em toda a cidade.