AI 앱에 위험과 테스트를 강조하는 ‘안전 라벨’ 부착 예정

가까운 미래에 생성형 AI 앱 사용자들은 AI의 사용 방법, 관련 위험 및 테스트 프로세스를 명확히 outlining하는 라벨을 찾을 수 있을 것입니다. 새로운 가이드라인에 따라 라벨은 대중이 기술을 더 쉽게 이해할 수 있도록 의무화될 예정입니다.

또한 읽기: 유럽연합(EU), AI 규제 선도

싱가포르 통신정보부 장관 조제핀 테오 여사는 새로운 조치가 기술 기업들을 위한 투명성과 테스트의 표준을 정의하려는 노력이라고 말했습니다. 그녀는 7월 15일 스트레잇 타임스의 보고에 따르면 개인 데이터 보호 기술 회의에서 이같이 말했습니다.

AI 앱 개발자는 자신의 혁신에 대해 투명해야 합니다

약이나 가전제품이 안전 라벨을 부착하는 관행과 마찬가지로, 생성형 AI 앱 개발자는 AI 모델 사용 및 개발에 대해 사용자에게 명확하게 알리는 관행을 따라야 합니다. 스마트 네이션 및 사이버보안 이니셔티브 담당 장관이기도 한 Teo 여사는 다음과 같이 말했습니다.

“우리는 생성형 AI 모델과 앱이 어떻게 작동하는지에 대한 정보를 제공함으로써 개발자와 배포자가 사용자에게 투명하도록 권장할 것입니다.”

부 장관은 다가오는 규칙을 설명하며, 사용자가 “OTC(일반의약품) 상자”를 열 때와 같다고 말했습니다. 사용자는 약의 사용 방법과 직면할 수 있는 가능한 “부작용”이 명확히 기재된 종이를 찾게 됩니다.

Teo는 “이러한 수준의 투명성”이 생성형 인공지능을 기반으로 구축된 AI 시스템에 필요하다고 주장했습니다. 새로운 규칙 세트는 AI 모델이 대중에게 공개되기 전에 준수해야 하는 안전 기준을 정의할 것입니다. 

데이터 익명화 가이드가 2025에 출시 예정

생성형 인공지능은 기존 AI보다 예측 가능성이 낮으며 새로운 텍스트와 이미지를 생성할 수 있는 AI의 한 장르입니다. 새로운 가이드라인에 따르면, 창작자는 콘텐츠에 허위 사실, 적대적 댓글, 편향된 서사의 유포 위험을 명시해야 합니다.

Teo는 가전제품에는 안전한 사용을 위해 테스트되었음을 명확히 표시하는 라벨이 부착되어 있으며, 그렇지 않으면 고객이 해당 제품이 안전한지 알 수 없다고 말했습니다. AI 애플리케이션에도 동일한 관행이 적용될 것입니다. 싱가포르의 Infocomm Media Development Authority(IMDA)는 새로운 규칙에 대해 업계와 상담을 시작할 예정입니다. 그러나 Teo는 가이드라인의 날짜를 언급하지 않았습니다.

Teo는 IMDA가 기술 관련 프라이버시 문제에 대한 가이드를 게시했으며, 이는 AI 모델 학습을 위한 데이터 수요가 증가하는 가운데 사용자의 프라이버시를 보호하면서 대응할 것이라고 말했습니다.

또한 읽기: Democrat 라운드테이블, Mark Cuban 및 Brad Garlinghouse를 초청하여 암호화폐 규제 논의

IMDA 부사장 Denise Wong은 생성형 AI에서 데이터를 안전하게 유지하는 것이 업계에 더 어렵다고 말했습니다. 그녀는 행사 중 AI 및 데이터 프라이버시에 대한 별도의 패널 토론에서 자신의 의견을 제시했습니다. ChatGPT를 만든 OpenAI와 컨설팅 회사인 Accenture를 포함한 다양한 기술 기업의 대표들이 패널에 참여했습니다. 

OpenAI의 프라이버시 법률 책임자 Jessica Gan Lee는 AI 개발 및 배포의 모든 단계에서 데이터 보호 가드레일이 마련되어야 한다고 말했습니다. 그녀는 AI 모델이 “전 세계 모든 곳”의 다양한 데이터셋으로 훈련되어야 한다고 말했습니다. Lee는 여러 문화, 언어 및 소스를 AI 훈련에 포함하는 것과 함께 개인 데이터 처리를 제한하는 방법을 찾는 것을 강조했습니다.

Teo는 2025년 초 ASEAN에서 운영되는 기업들을 위한 데이터 익명화 가이드가 도입될 것이라고 말했습니다. 이 가이드는 지역 관리들이 안전한 글로벌 디지털 생태계를 구축하는 방법을 모색하기 위해 2월에 열린 회의의 결과물입니다.