Órgão regulador aconselha instituições de caridade a implementarem política interna de IA

A Comissão de Caridade recomendou que as organizações beneficentes considerem a implementação de políticas internas de inteligência artificial (IA), em resposta a uma nova publicação em seu blog. A recomendação surge após o reconhecimento, por parte da Comissão, de que a IA está se desenvolvendo rapidamente no setor.

Uso crescente de IA em organizações sem fins lucrativos

De acordo com o relatório Charity Digital Skills de 2023, cerca de 35% das organizações sem fins lucrativos consultadas já aplicam IA em muitas funções rotineiras, e 26% pretendem implementar essa tecnologia em breve em suas atividades. Com cada novo desenvolvimento na tecnologia de IA, as organizações sem fins lucrativos percebem o potencial para aumentar a eficiência de seus processos.

Mas a Comissão de Caridade destaca que é “de suma importância garantir que a IA seja usada de forma responsável para promover os objetivos da instituição de caridade”. A IA pode trazer muitos benefícios, mas os riscos devem ser avaliados e mitigados adequadamente. As instituições também devem ponderar os benefícios em relação a quaisquer riscos potenciais da adoção da IA ​​dentro da missão e das responsabilidades de sua organização.

Considerações para instituições de caridade

Incentiva-se as organizações sem fins lucrativos a avaliarem como a IA pode ser utilizada de forma eficaz em suas estruturas. Isso envolverá uma avaliação concreta dos benefícios e riscos com o auxílio de ferramentas de IA; adentdas habilidades necessárias para uma boa implementação da IA; e, por fim, adentdos atores no desenvolvimento da IA ​​que podem desempenhar um papel na governança da IA ​​para que ela seja usada adequadamente e para que falhas ou erros sejam corrigidos rapidamente.

Procedendo com cautela

No entanto, os líderes de organizações sem fins lucrativos podem encarar isso com cautela e lembrar alguns dos perigos caso essa tecnologia evolua. O mesmo se aplica à IA: ela pode melhorar significativamente muitos aspectos das organizações sem fins lucrativos, mas não é perfeita e pode facilmente fornecer dados incorretos e tendenciosos.

Os administradores são lembrados de suas responsabilidades finais e, ao mesmo tempo, alertados para evitar o uso superficial ou exclusivo da IA. O uso da IA ​​pela Comissão de Caridade expõe as instituições de caridade a riscos muito elevados, portanto, elas devem estar atentas às armadilhas e garantir que a IA seja usada de forma ética e responsável, jamais ultrapassando seus limites.

O papel da supervisão humana

Este elemento humano é essencial, especialmente para manter a integridade nas operações das instituições de caridade e na interação com os beneficiários. Embora a perspectiva da integração da IA ​​possa parecer complexa, segundo a Comissão de Caridade, grandes oportunidades aguardam para serem exploradas por essas instituições no uso e aprimoramento dessa tecnologia. A adoção responsável da IA ​​pelas instituições de caridade aumentará a eficiência e melhorará a prestação de serviços, mantendo-as, ao mesmo tempo, atualizadas com as tecnologias mais recentes. 

A recomendação da Comissão de Caridade para que as instituições de caridade considerem o desenvolvimento de suas políticas internas de IA sugere, portanto, um maior impulso para a IA no setor beneficente. Mesmo com os muitos benefícios que oferece, a IA traz consigo um conjunto de desafios que exigirão planejamento e supervisão cuidadosos para serem superados. Essa abordagem para a adoção da IA ​​por meio de princípios permitirá que as instituições de caridade abracem o potencial da IA ​​para impulsionar e efetivar mudanças positivas, mitigando, ao mesmo tempo, os riscos associados.

História original de https://www.civilsociety.co.uk/governance/regulator-tells-charities-to-consider-having-an-internal-artificial-intelligence-policy.html