- A inovação da IA na governança pública exige supervisão cautelosa para um avanço ético e responsável.
- A pressa em implementar tecnologias de IA na governança exige uma estratégia que priorize considerações éticas e precisão.
- O debate sobre a IA no setor público destaca a necessidade crítica de precisão e uso responsável para garantir resultados benéficos.
A cidade de Nova York lançou um chatbot em seu site, alimentado pela tecnologia de IA da Microsoft Azure, para ajudar os usuários a trocar informações facilmente com proprietários de pequenas empresas e tornar os regulamentos da cidade fáceis e simples.
O chatbot inteligente foi concebido como um ponto único no mar de leis e regulamentos da cidade, mas, em vez de fornecer informações valiosas, gerou um debate crescente sobre a precisão e, mais frequentemente, conselhos absurdos.
O impacto dos chatbots na orientação jurídica
O papel dos conselhos equivocados e dos desafios legais não pode ser subestimado nos obstáculos diários enfrentados pelas startups. Este é o principal objetivo do chatbot: atuar como um assistente virtual em “tempo real” para empresários, resolvendo seus problemas burocráticos, incluindo perguntas sobre os regulamentos da cidade.
As diretrizes também falharam em atingir seus objetivos devido à sua ponderação incorreta dos padrões legais, que em alguns casos até contrariam as leis da cidade de Nova York.
A descoberta e a confirmação, incluindo os testes realizados pelo Markup, mostraram que os conselhos do chatbot variavam desde o ilegal – informando aos empregadores sobre roubo de gorjetas e discriminação sexual baseada na gravidez – até o bizarro, por exemplo, quando o bot afirmou abertamente que é permitido testar alimentos picados por ratos.
O erro pode ocorrer em várias áreas, como política doméstica, compensação aos trabalhadores e operações comerciais, o que diminui a confiabilidade do chatbot como recurso jurídico.
Um dos exemplos é quando os empregadores foram informados falsamente de que podem executar negócios que aceitam apenas meios eletrônicos de pagamento e que não há regras para as gorjetas dos trabalhadores. Os proprietários de imóveis receberam orientações incorretas sobre despejar inquilinos e desrespeitar fontes de renda, como os vouchers de Apoio Habitacional do Departamento de Assuntos dos Veteranos. O mesmo tipo de recomendações não apenas prejudica o status legal das empresas, o que é uma violação ética, mas também carrega uma questão ética.
Equilibrando inovação e responsabilidade na implementação de IA
Diante da ameaça negativa da tecnologia, como vieses, sistematização e perda de controle, os defensores da IA em NYC, como o prefeito Eric Adams, entre outros, defendem a implementação da tecnologia proposta.
O prefeito Adams, enfatizando o fato de que, para tudo o que sabemos, o avanço tecnológico é um processo longo que precisa ser aperfeiçoado por meio de tentativas contínuas, nos aconselha a ser mais persistentes com o chatbot.
Essa posição, como você pode esperar, não apenas não tem aceitação, mas também falha em ganhar reconhecimento. Críticos, liderados por Julia Stoyanovich, que ocupa o cargo de professora de ciência da computação e diretora do Centro de IA Responsável da Universidade de Nova York, afirmaram que o silêncio administrativo sobre o software, que ainda estava em desenvolvimento sem verificação sistemática, espelhava uma indiferença à governança responsável.
Sendo apenas software, o chatbot pode cometer alguns erros ou ter vieses inerentes. No entanto, a decisão da cidade de manter o chatbot em execução e iniciar a conversa com um aviso de que os conselhos do bot podem nem sempre ser precisos, transfere a responsabilidade de verificar os dados para os usuários.
Essa questão, portanto, provocou um debate sobre se devem existir mecanismos suficientes para garantir que a IA não seja implementada onde não seja precisa para fins regulatórios.
Plano de implementação para proprietários de pequenas empresas
A situação dos empreendedores da cidade de Nova York sinaliza um sinal de alerta proverbial; mesmo a tecnologia com IA como base enfrenta o problema da confiabilidade. A IA tem a capacidade de reduzir a burocracia, mas os erros do chatbot destacam a precisão e a confiabilidade indispensáveis em usos do setor público.
Os proprietários de pequenas empresas que enfrentam a acrobacia verbal dos regulamentos da cidade encontrarão uma ocasião em que o programa do bot pode fazer uso indevido dos conselhos de IA como um botão para uma avaliação manual. Os especialistas sugerem que há necessidade de profissionais jurídicos humanos para questões de conformidade e regulamentação, ao mesmo tempo em que se consideram as dicas recebidas do chatbot como soluções preliminares, não definitivas.
Em resumo, o episódio sugere um novo paradigma para o experimento de IA da cidade, adotando as reformas estratégicas necessárias antes de iniciar intervenções tecnológicas semelhantes em sua jurisdição. Em última análise, o equilíbrio entre inovação e responsabilidade está no cerne da questão, o que pode contribuir para a integridade dos serviços públicos ou comprometer a confiança da comunidade.
As autoridades de NYC ainda não se deixam abalar pela tecnologia e continuam apoiando seu chatbot de IA, o que pode fornecer lições úteis sobre a necessidade de proteções de privacidade. Quando se trata de IA a serviço do interesse público, ela deve ser implementada de forma responsável, juntamente com a crucial transparência e com o objetivo de melhoria constante.
Por outro lado, esses recursos podem ser usados com uma dose saudável de apreensão pelos proprietários de pequenas empresas. Eles devem, em vez disso, recorrer a fontes jurídicas tradicionais e buscar conselhos com elas.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Emman Omwanda
A especialidade de Emmanuel Omwanda reside nos mercados de criptomoedas, abrangendo tanto a análise fundamentalista quanto a técnica. Ele trabalhou anteriormente em diversos sites de mídia de criptomoedas antes de se juntar à Cryptopolitan, incluindo CoinEdition, The Crypto Basic, CryptoNews Flash e DroomDroom. Ele possui uma Licenciatura em Ciências (BSc.) em Matemática e Ciência da Computação pela Universidade Kenyatta, no Quênia, e está atualmente no último ano de graduação em Artes em Comunicação e Estudos de Mídia.
