Redefinir a Regulação da IA: Focar nos Danos Reais do Mundo Real em vez de Ameaças Hiperbólicas
- Foque nos danos reais causados pela IA, como prisões injustas e discriminação, em vez de ameaças existenciais exageradas.
- A natureza enganosa do texto sintético exacerba o viés e a desinformação, apresentando desafios à confiabilidade da informação.
- A política de IA deve ser fundamentada em pesquisas rigorosas para abordar danos reais, incluindo viés, desigualdade e exploração.
A Inteligência Artificial (IA) saiu do reino da ficção científica e entrou nas nossas vidas diárias, trazendo benefícios e riscos. Embora as discussões sobre o potencial da IA para representar ameaças existenciais à humanidade tenham dominado os noticiários, a verdadeira preocupação reside no dano imediato e tangível que as tecnologias de IA já estão a causar. Desde prisões erradas até discriminação algorítmica, o foco precisa de mudar do sensacionalismo para uma ciência fundamentada que investigue os perigos do mundo real.
Desmascarando as ameaças reais
Em vez de sucumbir ao encanto da retórica sensacionalista, o foco deve estar nos danos reais que as tecnologias de IA estão a infligir hoje. Prisões erradas, expansão das redes de vigilância e proliferação de pornografia deepfake não são cenários hipotéticos; são consequências reais das ferramentas de IA atualmente disponíveis no mercado. O aumento de práticas discriminatórias em habitação, justiça criminal e saúde, bem como a disseminação de discurso de ódio e desinformação, destaca as questões prementes ligadas ao impacto atual da IA.
Desmantelar o hype
Muitas empresas de IA tendem a priorizar narrativas dramáticas em vez de danos tangíveis ao discutir os riscos potenciais da IA. A recente declaração do Centro para a Segurança da IA, coassinada por líderes da indústria, sobre o risco de extinção impulsionada pela IA, suscitou preocupações sobre prioridades equivocadas. A narrativa em torno do “risco existencial” desvia a atenção da necessidade urgente de abordar os danos muito reais que já estão a emergir.
A necessidade de definições claras
O próprio termo “IA” tornou-se um termo genérico ambíguo, abrangendo vários significados que vão desde um subcampo da ciência da computação até uma solução mágica enigmática para empresas. Esta ambiguidade complica discussões significativas. Hoje, modelos de síntese de texto como o ChatGPT dominam a paisagem da IA. Estes modelos geram texto coerente, mas carecem de compreensão e capacidades de raciocínio, tornando-os mais semelhantes a chatbots sofisticados do que a entidades verdadeiramente inteligentes.
O problema com o texto sintético
Embora os modelos de síntese de texto produzam texto convincente, carecem de compreensão verdadeira, tornando as suas saídas potencialmente enganosas e prejudiciais. A proliferação de texto sintético exacerba a desinformação e o viés presentes nos seus dados de treino, amplificando os preconceitos sociais. O desafio reside em distinguir o texto sintético de fontes de informação credíveis, uma tarefa que se torna mais difícil à medida que o texto sintético se espalha.
IA como solução? Ou como prejuízo?
A tecnologia de síntese de texto é frequentemente aclamada como uma solução para várias lacunas sociais, como educação, saúde e serviços jurídicos. No entanto, a realidade é diferente. A tecnologia frequentemente explora o conteúdo criado por artistas e autores sem a devida compensação, e o processo de rotulagem de dados para treino de IA envolve trabalhadores de gig mal pagos submetidos a condições de trabalho duras. Além disso, a busca pela automação resulta em perda de empregos e emprego precário, especialmente em indústrias como o entretenimento.
O papel da política baseada na ciência
A política de IA deve estar enraizada em investigação sólida e numa preocupação genuína com o bem-estar da sociedade. Infelizmente, muitas publicações sobre IA provêm de fontes corporativas ou financiadas pela indústria, levando a práticas de investigação questionáveis. É imperativo mudar o foco para a investigação que investiga os danos reais que os sistemas de IA perpetuam. Estes incluem a acumulação descontrolada de dados e poder de computação, os custos ambientais do treino de IA e a exacerbação das desigualdades sociais.
Reorientar para a investigação genuína
Os formuladores de políticas devem priorizar uma investigação rigorosa que se aprofunde nos danos e riscos da IA, bem como nas consequências de delegar autoridade a sistemas automatizados. Esta investigação deve abranger a análise e a construção de teorias das ciências sociais, promovendo uma compreensão mais profunda dos impactos sociais da IA. Políticas baseadas nesta investigação garantirão que o foco permaneça em abordar as questões do mundo real que as comunidades marginalizadas enfrentam devido às tecnologias de IA.
À medida que a IA continua a moldar o nosso mundo, a ênfase deve mudar das ameaças existenciais sensacionalizadas para o dano imediato que as tecnologias de IA estão a causar. Prisões erradas, discriminação algorítmica e a disseminação de discurso de ódio estão entre as consequências graves das ferramentas de IA hoje. Focar numa ciência fundamentada e numa investigação sólida permitirá que os formuladores de políticas abordem estas questões prementes e garantam que as tecnologias de IA beneficiem a sociedade sem causar danos indevidos.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Glory Kaburu
Glory é uma jornalista extremamente conhecedora, proficiente em ferramentas de IA e pesquisa. Ela é apaixonada por IA e escreveu vários artigos sobre o assunto. Mantém-se atualizada com os últimos desenvolvimentos em Inteligência Artificial, Aprendizado de Máquina e Aprendizado Profundo, escrevendo regularmente sobre eles.
