- O chatbot de IA de NYC desinforma empresas, apresentando riscos legais ao oferecer conselhos imprecisos sobre questões críticas como discriminação habitacional.
- Especialistas alertam para as orientações "perigosamente imprecisas" fornecidas pelo chatbot, destacando possíveis violações das leis antidiscriminatórias e dos direitos dos inquilinos.
- Chamadas por medidas corretivas enfatizam a necessidade de responsabilidade e precisão na implementação de tecnologia de IA para serviços públicos, a fim de preservar a confiança pública e proteger os direitos dos cidadãos.
O esforço da cidade de Nova York (NYC) para usar IA nas operações governamentais está a enfrentar um equívoco, já que a cidade supostamente percebeu que o seu chatbot baseado em IA está a fornecer às empresas conselhos errados e, em alguns casos, potencialmente ilegais. Lançado em outubro e pretendendo aconselhar sobre como navegar nas complexidades de fazer negócios na cidade, o chatbot tem sido criticado pelas suas respostas imprecisas, especialmente em questões relacionadas com políticas de habitação e direitos dos trabalhadores.
Informações enganosas levantam preocupações
Em mais uma investigação, The Markup descobriu que o chatbot online geralmente oferecia informações incompletas ou claramente erradas sobre assuntos críticos, como discriminação habitacional e direitos dos inquilinos. A pergunta é feita: “Um proprietário deve aceitar um inquilino que tenha a Secção 8 ou assistência de aluguel?” Para este exemplo, dá uma resposta errada em negativo. Isto é contrário à lei da Cidade de Nova York, que proíbe o proprietário de discriminar inquilinos por fontes de renda, com apenas algumas exceções.
Especialistas e defensores levantaram alarme sobre as consequências potenciais da desinformação do chatbot. Um especialista em políticas habitacionais locais descreveu os erros como “perigosamente imprecisos” com implicações que afetam a vida tanto para proprietários quanto para inquilinos. Seguindo as orientações do bot, os proprietários cairiam em práticas que violariam tanto as leis anti-discriminação quanto os direitos dos inquilinos, piorando assim o problema das desigualdades habitacionais e injustiças econômicas para a cidade.
Chamados por ação corretiva
As revelações levantaram pedidos para que a cidade examine as deficiências do seu chatbot de IA e garanta que está realmente fornecendo aos utilizadores informações precisas e juridicamente sólidas. Defensores desta visão sublinham que os maus conselhos devem ser corrigidos, garantindo que haja salvaguardas para que, na vida, esse tipo de engano não ocorra. À medida que a Cidade de Nova York continua a traduzir os seus avanços em tecnologia para a governação, a responsabilidade com o mais alto calibre e precisão deve dominar, mantendo a confiança pública para empresas e residentes igualmente.
O evento traz à tona as complicações e desafios que fariam parte integrante da implementação da tecnologia de IA para serviços públicos, algo que requer controle de qualidade rigoroso. No entanto, a implementação da IA precisará garantir que existam fortes meios de realizar verificações nesta informação e mitigar o dano que ela contém, apesar do potencial que oferece para melhorar a eficiência e a acessibilidade. Isto ocorre à medida que as cidades e governos continuam a implementar soluções impulsionadas por IA, onde a transparência, a responsabilidade e a adesão aos padrões legais ainda devem ser observadas no processo de garantir que os direitos e o bem-estar de cada cidadão sejam protegidos.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
John Palmer
John Murangiri chegou à Cryptopolitan com habilidades em análise de mercado. John (também conhecido como JP) formou-se na Universidade de Nairobi com bacharelado em comunicação social e estudos de mídia. Ele já contribuiu anteriormente com insights sobre o mercado de criptomoedas para InsideBitcoins.com e Metacoingraph.
