인도 정부는 인공지능(AI) 도구 사용을 규제하기 위해 기술 기업들이 "신뢰할 수 없는" 것으로 간주되거나 시험 단계에 있는 AI 시스템을 출시하기 전에 정부 승인을 받도록 의무화했습니다. 인도 정보기술부가 발표한 이 지침은 또한 이러한 도구에 적절한 라벨을 부착하여 사용자가 질의 응답의 부정확성을 인지하도록 경고해야 한다고 규정하고 있습니다.
정부의 AI 승인 의무화
인도에서 사업을 운영하는 기술 기업들은 이제 인공지능 도구, 특히 생성형 인공지능을 인도 인터넷 사용자에게 제공하기 전에 인도 정부의 명시적인 허가를 받아야 합니다. 이러한 조치는 허위 정보 및 정치적 영향력에 대한 우려가 커지는 가운데, 디지털 환경 규제에 대한 인도 정부의 관심이 높아지고 있음을 반영합니다.
구글의 제미니 AI 도구에 대한 답변
이번 지침은 최근 구글의 인공지능 도구 제미니(Gemini)가 나렌드라 모디 인도 총리의 파시스트 정책 의혹과 일치하는 답변을 제공했다는 비판을 받은 후 나온 것입니다. 구글은 자사 도구가 특히 시사 문제나 정치적 주제를 다룰 때 "항상 신뢰할 수 있는 것은 아니다"라고 인정했습니다. 인도 정부의 이번 대응dent 자국 내에 배치되는 인공지능 시스템의 정확성과 신뢰성을 보장하겠다는 의지를 보여줍니다.
선거의 공정성 확보
이번 권고안은 AI 도구의 신뢰성 문제를 다루는 것 외에도 선거 과정의 공정성을 보호하는 것의 중요성을 강조합니다. 다가오는 여름에 총선이 예정되어 있는 만큼, 인도 정부는 AI 도구가 선거 결과에 영향을 미치거나 혼란을 야기할 수 있는 방식으로 사용되는 것을 막고자 합니다. 이 지침은 인도의 민주주의 과정에서 투명성과 공정성을 유지하기 위한 광범위한 노력의 일환입니다.
기술 기업에 미치는 영향
인도에서 사업을 운영하는 기술 기업들에게 이 의무 사항은 상당한 규제 장벽이 됩니다. 이는 인도 시장에 AI 도구를 도입하기 전에 철저한 테스트 및 검증 과정을 거쳐야 한다는 점을 강조합니다. 더 나아가, 특히 정치 및 선거와 같은 민감한 분야에서 AI 기술의 개발 및 배포에 있어 투명성과 책임성을 강화해야 할 필요성을 부각합니다.
인공지능 규제의 글로벌 동향
인도의 인공지능(AI) 규제 움직임은 전 세계 국가들이 AI 기술을 규제하기 위한 포괄적인 프레임워크를 구축하기 위해 경쟁하는 광범위한 글로벌 추세를 반영합니다. 유럽의 일반 데이터 보호 규정(GDPR)부터 중국의 사이버보안법에 이르기까지, 각국 정부는 AI의 윤리적, 법적, 사회적 함의를 다룰 필요성을 점점 더 인식하고 있습니다. 인도의 규제 접근 방식은 이러한 AI 거버넌스 환경에 기여하며, 잠재적 위험을 완화하면서 AI의 이점을 활용하려는 의지를 보여줍니다.
인도가 "신뢰할 수 없는" AI 도구의 배포에 승인 절차를 의무화하기로 한 결정은 자국 내 AI 기술 규제를 향한 중요한 진전입니다. 인도 정부는 정부 차원의 감독과 라벨링 의무화를 통해 국내에 배포되는 AI 시스템의 정확성, 신뢰성, 그리고 무결성을 보장하고자 합니다. 이러한 조치는 AI 도구의 오용에 대한 즉각적인 우려를 해소할 뿐만 아니라, 디지털 시대의 신흥 기술을 규제하는 강력한 프레임워크를 구축하려는 광범위한 노력의 일환입니다. AI가 사회 각 분야에서 점점 더 중요한 역할을 수행하는 가운데, 인도의 이러한 규제 접근 방식은 인공지능 분야에서 선제적인 거버넌스의 주목할 만한 사례로 평가받고 있습니다.
