호주 정부는 특정 "고위험" 인공 지능(AI) 도구를 금지해야 하는지 여부를 결정하기 위해 예상치 못한 8주간의 협의 기간을 시작했습니다. 이러한 움직임은 급속한 AI 개발과 관련된 위험을 해결하기 위해 미국, 유럽 연합 및 중국을 포함한 다른 지역에서 취한 유사한 조치에 따른 것입니다.
월 1일 산업과학부 장관 Ed Husic은 공개 검토를 위해 두 개의 논문을 공개했습니다 . 이 문서는 7월 26일까지 열려 있는 상담 기간과 함께 공개되었습니다.
호주 정부는 "AI의 안전하고 책임 있는 사용"을 촉진하기 위한 전략에 대한 피드백을 구하고 자발적인 윤리 프레임워크, 특정 규정 또는 두 접근 방식의 조합과 같은 옵션을 탐색합니다. 특히, 협의는 특정 고위험 AI 애플리케이션 또는 기술이 완전히 금지되어야 하는지 여부를 직접 묻고 그러한 도구를 dent 하기 위한 기준에 대한 의견을 구합니다.
포괄적인 토론 문서에는 자율주행차를 "고위험"으로 분류하고 의료 환자 기록을 생성하기 위한 생성 AI 도구를 "중간 위험"으로 분류하는 AI 모델에 대한 위험 매트릭스 초안이 포함되어 있습니다. 이 문서는 의학, 공학 및 법률과 같은 분야에서 AI의 긍정적인 적용과 딥페이크 도구, 가짜 뉴스 생성 및 AI 봇이 자해를 조장한 사례와 관련된 잠재적 피해를 모두 강조합니다.
호주 정부 대 AI
AI 모델의 편견과 AI 시스템에 의한 "환각"으로 알려진 무의미하거나 잘못된 정보 생성에 대한 우려도 토론 문서에서 다룹니다. 호주의 AI 채택은 현재 낮은 수준의 대중 신뢰로 인해 제한적임을 인정합니다. 이 백서는 다른 관할권에서 시행된 AI 규정과 이탈리아의 ChatGPT 예로 들었습니다.
또한 National Science and Technology Council 보고서는 로봇 공학 및 컴퓨터 비전 분야에서 호주의 유리한 기능을 강조하지만 대규모 언어 모델과 같은 핵심 영역에서 상대적인 약점을 지적합니다. 그것은 호주에 잠재적인 위험을 초래하는 소수의 주로 미국에 기반을 둔 기술 회사에 생성 AI 리소스가 집중되는 것에 대한 우려를 제기합니다.
이 보고서는 글로벌 AI 규제를 더 자세히 살펴보고, 생성적 AI 모델의 예를 제공하며, 그러한 모델이 은행 및 금융에서 공공 서비스, 교육 및 창조 산업에 이르는 분야에 광범위한 영향을 미칠 가능성이 있다고 제안합니다.
