규제 기관, 자선단체에 내부 AI 정책 도입 권고

자선위원회(Charity Commission)는 새로운 블로그 게시물을 바탕으로 자선단체들이 자체 내부 인공지능(AI) 정책을 도입하는 것을 고려해 볼 것을 권고했습니다. 이 조언은 위원회가 섹터 내에서 AI가 빠르게 발전하고 있음을 인식한 결과입니다.

자선단체에서의 AI 사용 증가

2023년 Charity Digital Skills 보고서에 따르면, 조사된 자선단체 중 약 35%가 이미 일상적인 기능에 AI를 적용하고 있으며, 26%는 곧 업무 과정에서 이 기술을 적용할 계획입니다. 그러나 AI 기술의 새로운 발전마다 자선단체들이 볼 수 있는 것은 프로세스 효율성을 가져올 새로운 잠재력입니다.

하지만 자선위원회는 "자선 단체의 목적을 달성하기 위해 AI를 책임감 있게 사용하는 것이 가장 중요하다"고 강조합니다. AI는 많은 혜택을 제공할 수 있지만, 위험을 적절히 평가하고 완화해야 합니다. 또한 자선 단체의 사명과 책임 내에서 AI 도입의 혜택과 잠재적 위험을 저울질해야 합니다.

자선 단체를 위한 고려 사항

자선 단체는 AI를 조직 내에서 효과적으로 활용할 수 있는 방법을 평가하도록 권장됩니다. 여기에는 AI 도구를 활용해 혜택과 위험을 구체적으로 평가하고, AI를 성공적으로 도입하는 데 필요한 역량을 식별하며, AI 거버넌스에 관여할 수 있는 관련 주체를 파악하여 적절히 활용하고 사고나 오류가 신속히 수정되도록 하는 것이 포함됩니다.

주의 깊게 진행하기

하지만 자선 단체 지도자들은 이러한 변화가 일어날 경우 일부 경계심을 가지고 생각하며, 그로 인한 몇 가지 위험을 기억해야 합니다. AI도 마찬가지입니다. AI는 자선 활동의 많은 부분을 크게 개선할 수 있지만 완벽하지 않으며, 잘못되거나 편향된 데이터를 쉽게 학습할 수 있습니다.

이사회 구성원들은 최종적인 책임을 상기해야 하며, 동시에 AI를 형식적이거나 유일한 도구로 사용하는 것을 경계해야 합니다. 자선위원회가 AI를 사용하는 것은 자선 단체들에게 매우 높은 위험을 노출시키므로, 자선 단체들은 함정에 주의하고 AI가 윤리적이고 책임감 있게 사용되도록 보장해야 하며, 그 경계를 결코 넘어서지 않아야 합니다.

인간 감독의 역할

이러한 인간의 요소는 자선 운영의 무결성 유지와 수혜자와의 상호작용에서 특히 중요합니다. AI 통합의 전망이 daunting해 보일 수 있지만, 자선위원회에 따르면 자선 단체들이 발전하는 기술을 활용하고 활용함으로써 큰 기회를 기다리고 있습니다. 자선 단체들이 AI 기술을 책임감 있게 채택하면 효율성이 향상되고 서비스 제공이 강화되면서 동시에 최신 기술을 따라갈 수 있습니다. 

따라서 자선위원회가 자선 단체들에게 내부 AI 정책을 개발할 것을 고려하라는 권고는 자선 부문으로의 AI 도입을 더욱 촉진하는 것을 시사합니다. 많은 이점이 있음에도 불구하고 AI는 신중한 계획과 감독이 필요한 일련의 과제를 안고 있습니다. 원칙을 통한 이러한 AI 채택 접근 방식은 자선 단체들이 긍정적인 변화를 주도하고 효과적으로 만드는 데 있어 AI의 잠재력을 수용할 수 있게 하지만, 동시에 관련된 위험을 완화할 수 있습니다.

원본 이야기 출처 https://www.civilsociety.co.uk/governance/regulator-tells-charities-to-consider-having-an-internal-artificial-intelligence-policy.html