인도 정부는 대형 기술 기업의 인공지능(AI) 사용을 규제하기 위한 중요한 조치로, 모든 AI 모델은 배포 전에 공식 승인을 받아야 한다고 규정했습니다. 라지브 찬드라세카르tron정보통신부 장관은 이 지침의 필요성을 강조하며, 디지털 플랫폼이 2021년 정보기술법(IT Rules)을 준수하기 위해 필요한 실사를 수행해야 한다고 역설했습니다.
인공지능 규제에 대한 정부의 입장
정부의 이번 결정은 인공지능 기술의 오용, 특히 편향성, 차별, 선거 과정의 공정성 위협에 대한 우려가 제기된 데 따른 것입니다.tron정보통신부(MeitY)는 디지털 플랫폼이 인공지능으로 인해 발생하는 사용자 피해 및 허위 정보, 특히 딥페이크 문제를 해결해야 한다는 권고를 발표했습니다.
이 지침은 디지털 플랫폼에 즉각적인 준수를 의무화하며, 15일 이내에 취한 조치와 진행 상황에 대한 상세 보고서를 해당 부처에 제출하도록 요구합니다. 이번 조치는 인공지능 기술 사용에 있어 책임성과 투명성을 확보하고, 잠재적인 오용과 그로 인한 사회적 파장을 방지하려는 정부의 의지를 보여줍니다.
규정 준수 및 책임
이번 권고안은 특히 구글의 제미니 AI를 둘러싼 최근 논란을 다루며, 디지털 플랫폼의 AI 배포에 대한 책임에 대한 광범위한 논의를 촉발했습니다. 정부 지침에 따르면 테스트 중인 모든 AI 모델은 명확하게 표시되어야 하며, 잠재적 오류 및 관련 위험에 대해 최종 사용자로부터 명시적인 동의를 받아야 합니다.
플랫폼은 IT 규칙 제3조(1)(b)항에 defi된 불법 콘텐츠의 확산을 조장하지 않고 IT법의 다른 조항을 위반하지 않도록 AI 애플리케이션을 보장해야 합니다. 테스트 단계에 있는 AI 모델의 배포는 정부 승인을 받아야 하며, 실험적 성격과 출력의 잠재적 신뢰성 부족을 명확하게 표시해야 합니다.
사용자 인지 및 동의 확보
정부는 사용자 인식 제고를 위해 '동의 팝업' 기능 도입을 제안합니다. 이 기능은 인공지능(AI) 생성 결과물에 내재된 부정확성과 신뢰성 부족 가능성에 대해 사용자에게 명확하게 알려줌으로써, AI 기술에 대한 대중의 이해를 높이고 현실적인 기대치를 설정하는 데 도움을 줄 것입니다.
정보기술법 및 정보기술 규칙을 준수하지 않을 경우 중개업체와 사용자 모두에게 상당한 처벌이 내려질 수 있습니다. 정보통신부는 이번 권고를 통해 형법의 여러 조항에 따른 기소 등 잠재적인 법적 결과를 경고하며, 정부가 이러한 규정 준수를 얼마나 중요하게 여기는지 강조했습니다.
시사점 및 향후 전망
정부의 이번 지침은 급성장하는 인공지능(AI) 기술 분야를 규제하는 데 있어 중요한 첫걸음입니다. 명확한 준수 지침을 마련하고 디지털 플랫폼이 AI 모델에 대한 책임을 지도록 함으로써, 정부는 디지털 생태계에서 신뢰와 안전이 확보된 환경을 조성하고자 합니다.
이러한 계획은 윤리적인 AI 사용의 중요성을 강조할 뿐만 아니라 유사한 문제에 직면한 다른 국가들에게dent 제시합니다. AI가 계속 발전하고 삶의 다양한 영역에 스며들면서 강력한 규제 체계의 필요성이 더욱 분명해지고 있습니다. 이와 관련한 인도 정부의 선제적 접근은 AI 거버넌스 분야에서 세계적인 모범 사례가 될 수 있을 것입니다.
인도 정부가 최근 발표한 인공지능(AI) 모델 규제 권고안은 기술의 윤리적 사용을 보장하려는 의지를 보여줍니다. AI 배포에 대한 정부 승인 의무화, 플랫폼 책임 강조, 사용자 동의 및 인식 제고를 통해 AI 관련 위험을 완화하고 책임 있는 사용을 촉진하는 것이 이번 지침의 목표입니다. 디지털 환경이 끊임없이 진화함에 따라 이러한 규제 조치는 기술, 사회, 거버넌스 간의 복잡한 상호작용을 헤쳐나가는 데 매우 중요할 것입니다.
