영국 표준 규제 기관, AI 안전 단속을 위해 독립 감사 기업에 주목

영국의 국가 표준 기관인 영국 표준 협회(BSI)는 혁신을 보호하기 위해 인공 지능 도구를 독립적으로 감사하는 기업을 위한 새로운 표준을 발표할 예정인 것으로 보고되었습니다. 

영국 AI 감사 표준으로 명명된 이 새로운 표준은 AI 시스템 감사를 위한 구조화된 프레임워크를 도입하여 신흥 AI 분야의 규제되지 않고 잠재적으로 위험한 관행을 해결하는 데 중점을 둘 것입니다.

이 표준은 7월 31에 발효됩니다.

BSI에 따르면, 이제 전통적이고 선구적인 사용 사례 모두에서 AI 모델을 사용하는 회사들이 이를 신뢰할 수 있고 공정하며 안전하게 사용하는지 평가한다고 주장하는 "수백" 개의 "검증되지 않은" 그룹이 감사 서비스를 제공하고 있습니다.

AI 감사를 판매하는 많은 그룹은 자체 AI 기술을 개발하며, 이는 BSI가 "독립성과 엄격성에 대한 우려"를 제기했다고 밝혔습니다.

연구소에 따르면, 이 표준은 7월 31일에 출시되며, 보증 기업이 회사들이 AI 관리 표준을 준수하는지 확인하는 방법을 표준화하는 최초의 국제 요구사항 세트입니다.

이 소식은 영국 재무보고위원회(FRC)가 2025년 6월 26일 감사에서의 AI에 대한 가이드라인을 발표한 지 몇 주 후에 나왔습니다. 이 가이드라인은 감사에서 AI 도구 구현을 위한 일관된 접근 방식을 제공했으며, 감사 업계의 혁신을 지원하기 위한 문서화 요구 사항도 강조했습니다.

영국의 새로운 표준은 중요합니다

전 세계가 AI를 수용했지만, 환각(hallucinations)과 같은 실수 및 기술이 초래하는 다른 위험에 대한 취약성은 신뢰할 수 있는 AI 보증 서비스의 중요성을 높였습니다. 또한 회사는 EU AI법과 같은 국제 규제 준수를 걱정해야 하므로 보증 서비스가 중요합니다.

소규모 기업들이 수요 증가의 이점을 활용하기 위해 등장하며, 빅4 회계법인을 포함한 더 큰 경쟁사들과 경쟁하고 있습니다.

아직 초기 단계인 이 분야이지만, AI 보증 시장은 이미 영국에 10억 파운드 이상의 총 부가가치를 창출하고 있습니다. 따라서 규제 기관들이 이 분야의 표준화 부재에 경보를 울리는 것은 합리적입니다.

이는 회사가 여전히 경미한 조언에 불과하거나 특정 법률 준수 여부 확인에 국한된 보증 서비스를 제공할 수 있음을 의미합니다.

BSI의 글로벌 디지털 디렉터인 Mark Thirlwell은 "기업은 AI 관리 시스템이 평가받을 때 견고하고 일관된 방식으로 수행되고 있는지 확신해야 합니다"라고 말했습니다.

BSI는 이 표준이 인증된 보증 제공업체에 의해 보증된 AI를 구별하는 데 도움을 주어 규제 기관, 고객 및 투자자를 지원함으로써 "책임 있는 AI 혁신"을 지원하기를 희망합니다.

이 표준은 ISO 표준에 따라 AI 시스템을 인증할 자격이 있는 기업을 명확히 함에 따라 "AI 보증 생태계에서 중요한 진전"으로 불리고 있습니다.

AI 감사 및 평가 전문가인 UC 버클리의 연구원 Inioluwa Deborah Raji는 "많은 보증 기업이 AI 감사를 위해 독점 시스템을 사용했다"고 강조하며, 기업들이 "[독점] 표준에 대한 평가를 위해 지불할 것"이지만 현재 이러한 표준의 품질을 외부에서 검증할 방법이 없다고 경고했습니다.