Nova York defende chatbot de IA em meio a críticas e gafes legais.

A cidade de Nova York lançou um chatbot em seu site, alimentado pela tecnologia de IA do Microsoft Azure, para ajudar os usuários a trocar informações facilmente com proprietários de pequenas empresas e simplificar o entendimento das regulamentações municipais. 

O chatbot inteligente foi concebido como um ponto único de contato no mar de leis e regulamentos da cidade, mas, em vez de fornecer informações valiosas, gerou um debate acalorado e crescente sobre sua precisão e, na maioria das vezes, conselhos absurdos.

O impacto dos chatbots na orientação jurídica

A importância de conselhos equivocados e desafios legais não pode ser subestimada nos obstáculos diários enfrentados por startups. É nesse contexto que o principal objetivo do chatbot se apresenta: atuar como um assistente virtual em tempo real para empresários, solucionando seus problemas burocráticos, incluindo dúvidas sobre regulamentações municipais. 

As diretrizes também falharam em atingir seus objetivos devido à má ponderação dos padrões legais, que em alguns casos chegam a contrariar as leis da cidade de Nova York.

A investigação e confirmação, incluindo os testes realizados pela Markup, mostraram que os conselhos do chatbot variavam do ilegal – alertando os empregadores sobre roubo de gorjetas e discriminação sexual com base na gravidez – ao bizarro, por exemplo, quando o bot afirmou abertamente que era permitido testar alimentos bicados por ratos. 

O erro pode surgir em diversas áreas, como política interna, indenização trabalhista e operações comerciais, o que diminui a confiabilidade do chatbot como recurso jurídico.

Um exemplo disso é quando empregadores foram falsamente informados de que poderiam administrar negócios que aceitassem apenas pagamentostrone que não haveria regras para gorjetas de funcionários. Proprietários de imóveis receberam orientações equivocadas sobre despejo de inquilinos e desrespeito a fontes de renda como os vouchers de moradia assistida do Departamento de Assuntos de Veteranos. Esse mesmo tipo de recomendação não só prejudica a situação legal das empresas, o que constitui uma violação da ética, como também acarreta um problema ético.

Equilibrando inovação e responsabilidade na implementação da IA

Apesar das ameaças negativas da tecnologia, como preconceitos, sistematização e perda de controle, os defensores da IA ​​em Nova York, como o prefeito Eric Adams, entre outros, defendem a implementação da tecnologia proposta. 

O prefeito Adams, que enfatiza o fato de que, pelo que sabemos, o avanço tecnológico é um processo longo que precisa ser aperfeiçoado por meio de tentativas contínuas, nos aconselha a sermos mais persistentes com o chatbot. 

Como era de se esperar, essa posição não só carece de aceitação, como também não obtém reconhecimento. Críticos, liderados por Julia Stoyanovich, professora de ciência da computação e diretora do Centro para Inteligência Artificial Responsável da Universidade de Nova York, alegaram que o acobertamento administrativo do software, que continuou sendo implementado sem verificaçãomatic refletia uma indiferença à governança responsável.

Por ser apenas um software, o chatbot pode cometer alguns erros ou apresentar vieses inerentes. No entanto, a decisão da cidade de manter o chatbot em funcionamento e iniciar a conversa com a ressalva de que os conselhos do bot podem nem sempre ser precisos transfere a responsabilidade de verificar os dados para os usuários. 

Essa questão, portanto, gerou um debate sobre se deveriam existir mecanismos suficientes para garantir que a IA não seja implementada onde não seja precisa para fins regulatórios.

Plano de implementação para proprietários de pequenas empresas

A situação dos empreendedores da cidade de Nova York é um sinal de alerta; mesmo tecnologias baseadas em IA enfrentam problemas de confiabilidade. A IA tem o potencial de reduzir a burocracia, mas os erros dos chatbots comprometem aspectos de precisão e confiabilidade indispensáveis ​​para o setor público.

Proprietários de pequenas empresas que enfrentam a complexidade das leis municipais encontrarão situações em que o chatbot pode usar indevidamente as recomendações da IA ​​como uma alternativa à avaliação manual. Especialistas sugerem que é necessário contar com profissionais jurídicos humanos para lidar com questões de conformidade e regulamentação, ao mesmo tempo em que se consideram as dicas recebidas do chatbot como soluções preliminares, e não defi.

Em suma, a série sugere um novo paradigma para o experimento de IA da cidade, adotando as reformas estratégicas necessárias antes de iniciar intervenções tecnológicas semelhantes em sua jurisdição. Em última análise, o equilíbrio entre inovação e responsabilidade busca atingir o cerne da questão, que pode tanto contribuir para a integridade dos serviços públicos quanto comprometer a confiança da comunidade.

As autoridades de Nova York continuam firmes diante da tecnologia e mantêm o apoio ao seu chatbot de IA, que poderia fornecer lições valiosas sobre a necessidade de proteção da privacidade. Quando se trata de IA a serviço do interesse público, ela deve ser implementada de forma responsável, pautada pela transparência e com o objetivo de aprimoramento constante. 

Por outro lado, esses recursos podem ser usados ​​com uma dose saudável de apreensão pelos proprietários de pequenas empresas. É recomendável que eles recorram às fontes jurídicas tradicionais e busquem aconselhamento jurídico.