Pesquisadores sugerem diretrizes de IA para reduzir erros em pesquisas científicas

As evidências comprovam que existem falhas graves na forma como o aprendizado de máquina é aplicado na pesquisa científica. Esse problema foidentem diversos artigos científicos de diferentes áreas, mas uma equipe de 19 pesquisadores de diversas disciplinas publicou diretrizes de IA sobre o uso responsável do aprendizado de máquina na ciência, sob a supervisão de Arvind Narayanan e Sayash Kapoor, ambos cientistas da computação da Universidade de Princeton.

Diretrizes de IA para pesquisa científica

Os autores afirmam no relatório que seu trabalho é um esforço para apontar esse problema de credibilidade que pode prevalecer em todo o ecossistema de pesquisa. Narayanan argumenta que não existem padrões universais para proteger a integridade dos métodos de pesquisa e que o aprendizado de máquina agora é aplicado em todos os campos científicos, de modo que isso pode se tornar um problema mais sério do que a crise de replicação observada na psicologia social há uma década. Ele chama a crise atual de crise de reprodutibilidade. Como disse Narayanan,

“Quando passamos dos métodos estatísticos tradicionais para os métodos de aprendizado de máquina, existem inúmeras maneiras de darmos um tiro no próprio pé.”

Fonte: AzoAI.

Mas os autores das áreas de pesquisa em saúde, ciência da computação, ciências sociais e matemáticamatictêm notícias positivas. Eles afirmam que um conjunto de boas práticas pode ajudar a resolver o problema atual. O estudante de pós-graduação em computaçãodent , que organizou o esforço de pesquisa para produzir a lista de verificação para o trabalho científico e está trabalhando com Narayanan, disse que o problema é sistêmicomatic a solução para ele também deve sermatic.

A publicação pode ficar mais lenta, mas a precisão aumentará

O objetivo da nova lista de verificação baseada em consenso é garantir a autenticidade da pesquisa que utiliza aprendizado de máquina. A evolução da ciência se baseia na reprodutibilidade dos resultados e no fato de que as afirmações devem ser validadas de formadent. Sem isso, novas pesquisas científicas não podem ser realizadas de forma confiável com base em trabalhos anteriores, e todo o sistema perde credibilidade.

A nova lista de verificação exige que os pesquisadores forneçam informações detalhadas sobre o uso de modelos de aprendizado de máquina, incluindo os conjuntos de dados utilizados para treinar o modelo, seu código, capacidades de hardware, projeto piloto e objetivos da pesquisa, além de quaisquer restrições aos resultados do estudo, visto que o foco é a transparência.

Embora seja possível que as exigências mais rigorosas dessas novas normas possam retardar a publicação de novos estudos de pesquisa, os pesquisadores da iniciativa ainda acreditam que a adoção dessas regras será útil para aumentar o ritmo de descobertas e inovações em geral. 

Uma das autoras do estudo, Emily Cantrell, doutorandadent Universidade de Princeton, afirmou que a importância do ritmo da pesquisa científica é relevante, mas que garantir a qualidade dos artigos publicados permite que pesquisas futuras se baseiem neles. Kapoor também argumenta que erros são prejudiciais, considerando seu impacto coletivo e o desperdício de tempo, que por sua vez custa dinheiro, já que prejudicam a pesquisa científica que recebe financiamento e investimentos.