AI 앱에 위험 요소와 테스트 결과를 강조하는 '안전 라벨' 기능이 추가될 예정입니다

머지않아 생성형 AI 앱 사용자들은 AI 활용 방법, 관련 위험, 테스트 과정 등을 명확하게 설명하는 라벨을 보게 될 것입니다. 새로운 가이드라인에 따라 이러한 라벨 표시는 의무화되어 일반 대중이 기술을 더 쉽게 이해할 수 있도록 할 예정입니다.

관련 기사: 유럽연합(EU)이 인공지능 규제를 주도하다

싱가포르 정보통신부 장관 조세핀 테오 여사는 이번 조치가 defi기술 기업들의 투명성과 검증 기준을 정립하기 보도 . 

AI 앱 개발자는 자신들의 혁신에 대해 투명하게 공개해야 합니다

의약품이나 가전제품에 안전 라벨을 부착하는 관행과 마찬가지로, 생성형 AI 앱 개발자들도 AI 모델의 사용 및 개발 과정에 대해 사용자에게 명확하게 알려야 합니다. 스마트 국가 및 사이버 보안 이니셔티브 담당 장관이기도 한 테오 장관은 다음과 같이 말했습니다

"개발자와 배포자는 생성형 AI 모델과 앱이 어떻게 작동하는지에 대한 정보를 사용자에게 투명하게 제공하도록 권장할 것입니다."

장관은 향후 시행될 규정을 설명하면서, 이는 마치 소비자가 "일반 의약품 상자"를 열었을 때와 같다고 말했습니다. 상자에는 약의 사용 방법과 발생 가능한 부작용이 명확하게 적힌 설명서가 들어있기 때문입니다

테오는 "이러한 수준의 투명성"은 하나의 생성형 인공지능을 기반으로 구축된 AI 시스템에 필요하다고 주장했습니다. 새로운 규칙은 AI 모델이 대중에게 공개되기 전에 준수해야 할 안전 기준을 defi할 것입니다. 

데이터 익명화 가이드가 2025년에 발간될 예정입니다

생성형 인공지능은 새로운 텍스트와 이미지를 생성할 수 있는 인공지능의 한 분야로, 기존 인공지능만큼 예측 가능하지 않습니다. 새로운 가이드라인에 따르면, 콘텐츠 제작자는 허위 사실 유포, 악의적인 댓글, 편향된 서술 등의 위험성을 콘텐츠에 명시해야 합니다.

테오는 가전제품에는 안전 테스트를 거쳤다는 내용이 명확하게 표시된 라벨이 부착되어 있어야 소비자가 제품의 안전성을 알 수 있다고 말했습니다. 그렇지 않으면 소비자는 제품의 안전성을 판단할 수 없기 때문입니다. 인공지능(AI) 애플리케이션에도 동일한 기준이 적용될 것입니다. 싱가포르 정보통신미디어개발청(IMDA)은 새로운 규정에 대한 업계 의견 수렴을 시작할 예정입니다. 그러나 테오는 가이드라인 발표 날짜에 대해서는 언급하지 않았습니다.

IMDA는 또한 기술 분야의 개인정보 보호 문제에 대한 가이드를 발간했는데, 이는 인공지능 모델 학습에 필요한 데이터에 대한 수요 증가에 부응하면서 사용자의 개인정보를 보호하는 데 도움이 될 것이라고 테오가 말했다.

관련 기사: 마크 큐반과 브래드 갈링하우스를 초청해 암호화폐 규제에 대해 논의하는 민주당 원탁회의 개최 예정

IMDA의 부 최고경영자인 데니스 웡은 "생성형 AI에서 데이터 보안을 유지하는 것은 업계에 더욱 어려운 과제"라고 말했습니다. 그녀는 행사 중 AI와 데이터 프라이버시에 대한 별도 패널 토론에서 이같이 밝혔습니다. 패널에는 ChatGPT 개발사인 OpenAI와 컨설팅 회사 액센츄어를 비롯한 여러 기술 기업의 대표들이 참여했습니다. 

오픈AI의 개인정보보호 법률 책임자인 제시카 간 리는 AI 개발 및 배포의 모든 단계에서 데이터 보호 안전장치가 마련되어야 한다고 강조했습니다. 그녀는 AI 모델이 "전 세계 각지"의 다양한 데이터 세트로 학습되어야 한다고 말했습니다. 리는 AI 학습에 다양한 문화, 언어, 출처를 포함해야 하며, 개인 데이터 처리를 제한하는 방법을 찾아야 한다고 역설했습니다.

테오 장관은 2025년 초 아세안에서 사업을 운영하는 기업들을 위한 데이터 익명화 가이드라인을 발표할 예정이라고 밝혔습니다. 이 가이드라인은 안전한 글로벌 디지털 생태계를 구축하는 방안을 모색하기 위해 역내 관계자들이 참석한 지난 2월 회의의 결과물입니다.