인도 정부, 총선 앞두고 AI 기업들에 권고 발표

인도 전자정보기술부는 이번 여름 말 예정인 총선을 앞두고 인공지능(AI) 플랫폼을 운영하는 기업들에게 중요한 권고를 발표했다. 이 권고는 구글과 오픈AI와 같은 업계 거대 기업들을 포함한 생성형 AI 플랫폼 소유 기업들을 주로 겨냥하며, 선거 과정의 무결성을 훼손할 수 있는 응답을 생성하지 않도록 서비스를 보장하라고 지시했다.

권고 사항에 따르면, 특히 인도 사용자에게 테스트 중이거나 신뢰할 수 없는 AI 시스템이나 대규모 언어 모델(LLM)을 제공하는 AI 플랫폼 기업들은 생성된 출력의 잠재적 오류나 신뢰성 부족을 명시적으로 표기해야 한다. 이 요구사항은 AI 생성 콘텐츠의 한계에 대해 사용자에게 알리고 투명성과 책임성을 확보하기 위한 것이다.

인도의 규제 조치 및 입법 의도

이 권고는 인도에서 AI 플랫폼을 규제하기 위한 잠재적 입법 조치의 선행 역할을 한다. 전자정보기술부 차관 라제브 찬드라세카르는 이 권고가 생성형 AI 플랫폼을 통제하기 위한 입법 도입 의도를 나타낸다고 강조했다. 찬드라세카르는 2024년 총선에서 인도인민당(BJP) 로크 사바 후보자로, 정부가 기업들에게 AI 플랫폼과 동의 구조에 대한 시연을 요구할 수 있다고 밝혔다.

기업들은 권고에 대한 조치 보고서 제출을 위해 15일의 기한을 부여받았다. 기업들은 테스트 중이거나 신뢰할 수 없는 AI 모델이나 LLM을 배포하기 전에 인도 정부의 명시적 승인을 얻는 것을 포함하여 여러 지침을 준수해야 한다. 또한 기업들은 AI 생성 출력의 잠재적 오류에 대해 사용자에게 알리기 위해 동의 팝업과 같은 메커니즘을 구현해야 한다.

허위 정보 및 딥페이크 식별

허위 정보와 딥페이크의 확산을 막기 위해 정부는 AI 생성 응답에 영구적인 고유 식별자를 표기하도록 기업들에게 지시했다. 이 조치는 온라인 플랫폼에서 허위 정보나 딥페이크 콘텐츠의 발신자를 식별할 수 있도록 하여 책임성과 투명성을 높이는 것을 목표로 한다.

또한, 권고 사항에 따르면 AI 모델을 사용하는 모든 중개자 및 플랫폼은 컴퓨터 자원이 편견, 차별 또는 선거 과정의 무결성에 대한 위협을 조장하지 않도록 보장해야 한다. 정부는 선거 과정을 잠재적 조작이나 왜곡으로부터 규제함으로써 AI 기술을 규제하려는 목표를 가지고 있다.

인도 정부의 AI 기업에 대한 권고는 다가오는 총선 전 특히 민주적 과정의 무결성을 보장하고 AI 플랫폼을 규제하려는 정부의 의지를 강조한다. 투명성 조치와 책임성 메커니즘을 구현함으로써 정부는 AI 생성 콘텐츠와 관련된 위험을 완화하고 허위 정보 및 딥페이크의 확산을 막으려 한다. 기업들이 권고 사항에 outlined된 지침을 준수하기 위해 준비함에 따라, 인도의 AI 기술 관련 규제 환경은 진화할 것으로 예상되며, 이 나라의 디지털 거버넌스와 기술 윤리의 미래를 형성할 것이다.