A Força-Tarefa da BU recomenda o uso cauteloso de aplicativos de detecção de IA e uma abordagem crítica à IA

Há muita discussão em torno da infiltração da IA ​​(inteligência artificial) no ensino superior e nas instituições de ensino superior, impactando diversos aspectos. Entre eles, mas não se limitando a, admissões, processos de ensino e avaliação, todos amplamente debatidos em diferentes plataformas. O papel dos chatbots também é um ponto-chave de discussão quando se trata de opções de ensino personalizado, mas ainda não foi desenvolvido para o ensino superior. Com o uso generalizado da tecnologia de IA, também surgiu no mercado uma série de aplicativos detectores de IA.

No outono do ano passado, foi criada a Força-Tarefa de IA da Universidade de Boston para avaliar o impacto da IA ​​generativa no ensino superior e na pesquisa, bem como para analisar as políticas que estão sendo adotadas em todos os institutos acadêmicos, escolas e faculdades relacionados à BU. 

Recomendações da força-tarefa da BU para uma abordagem crítica de IA

Essas práticas não são exclusivas da BU, já que faculdades e universidades em todo o país têm avaliado a tecnologia de IA e seu impacto, formulando políticas e estruturas éticas em torno de seu uso. O desafio reside no fato de que a inteligência artificial ainda não atingiu a maturidade e continua evoluindo, com novas descobertas surgindo com extrema intensidade, desviando nossa atenção momentaneamente. Tudo isso começou com o lançamento do ChatGPT, que novamente está causando disrupção com seu aplicativo de geração de vídeos por IA, o Sora. 

Considerando os avanços alcançados em apenas um ano, é realmente difícil prever o que estaremos enfrentando daqui a cinco anos, por exemplo. Voltando às perspectivas educacionais e aos esforços da BU, a força-tarefa publicou seu relatório sobre o assunto após consultar professores e especialistas do setor. O relatório, intitulado "Relatório sobre IA Generativa na Educação e Pesquisa", destaca vários pontos, mas o foco principal é lidar com a IA generativa sob uma perspectiva crítica. Isso é direcionado ao corpo docente, mas o que eles estavam pensando sobre osdent? Bem, talvez seja algo para todos os envolvidos.

Recomenda-se também que os alunosdentinformados sobre IA em seus currículos e instruídos sobre suas capacidades e abordagens de uso. A BU também publicou as opiniões de alguns dos principais professores sobre a integração da IA. O professor Yannis Paschalidis, do Departamento de Engenharia, quando questionado sobre a "adoção crítica" da IA ​​em termos práticos, afirmou:

“Reconheça que a IA veio para ficar e pode ser uma ferramenta eficaz para acelerar a pesquisa e aprimorar o ensino.”

Fonte: Universidade de Boston

Ele acrescentou ainda:

“Na prática, isso implica usá-la com cautela. Com a universidade adotando uma política de “abraçar criticamente” a IA, as escolas e faculdades seriam orientadas a adotar suas próprias políticas locais, adaptadas às necessidades das disciplinas que atendem.”

Fonte: Universidade de Boston

O professor Paschalidis afirma que as políticas devem ser consistentes com as políticas gerais da universidade. Mas ele enfatiza que deve haver alguma margem para que o corpo docente tome suas próprias decisões sobre o assunto, a serem adotadas de acordo com as necessidades de suas aulas.

Aplicativos de detecção por IA e sua falta de confiabilidade

O relatório da BU também destaca a importância do uso de programas de monitoramento de IA, visto que osdentjá os utilizam devido à disponibilidade de diversos aplicativos e programas. No entanto, a instituição busca manter e promover a integridade acadêmica e proceder com cautela em relação à IA. O professor Pasachalidis considera que os aplicativos detectores de IA que identificam seu uso não são infalíveis. Ele afirma que esses programas apenas fornecem uma estimativa sobre se a IA foi usada para gerar determinado texto, áudio ou vídeo, mas não são 100% precisos. Portanto, ao avaliar condutas impróprias do ponto de vista acadêmico, o corpo docente deve estar vigilante e não confiar exclusivamente em ferramentas.

Outro professor, Wesley J. Wildman, de Filosofia, afirma que instrutores edentpodem estar usando o mesmo software de detecção de IA e obtendo a mesma classificação na verificação de plágio. Ele diz que os detectores de IA não são consistentes no momento e também não são totalmente confiáveis. Isso levanta dúvidas sobre sua precisão e confiabilidade, já que podem ser manipulados com erros ortográficos ematicaté certo ponto. Por essa razão, recomenda-se aos instrutores que tenham cautela ao utilizar essas ferramentas.

O professor Pasachalidis explicou que o esforço da BU em produzir um relatório completo sobre o uso da IA ​​resultou na formação da força-tarefa, que ocorreu nos últimos meses de 2023 e no semestre da primavera de 2024. A comissão contatou diversos especialistas, profissionais da indústria, consultores e especialistas da própria BU. Incluíram pessoas de todas as disciplinas, pois cada uma trouxe perspectivas originais para seus respectivos campos em relação à IA. Todos esses esforços foram realizados para que a universidade pudesse ter uma estrutura unificada sobre a tecnologia, alocar recursos para treinamento e adotar novas formas de ensino com a tecnologia emergente.

Sobre o mesmo assunto, o professor Wildman disse:

“Ouvimos especialistas representando disciplinas que ainda não haviam sido nomeadas para a força-tarefa.” 

Fonte: Universidade de Boston

Ele esperava que as recomendações importantes do relatório fossem implementadas imediatamente, e que algumas coisas pudessem levar mais tempo para serem implementadas devido à sua natureza e aos recursos necessários. Mas a narrativa de lidar com a inteligência artificial com uma abordagem crítica está sendo colocada em prática sem demora.

Encontre o relatório da BU aqui.