콜로라도 주, 차별 방지를 위한 AI 규제에 앞장서다

콜로라도 앞장서고 . 인공지능이 중요한 결정을 내릴 때 편향된 접근 방식을 보이는 것을 규제하기 위해 7개의 법안이 발의되었으며, 그중 하나는 이미 통과 및 승인되었습니다. 

관련 기사: AI 규제 문제 해결을 위한 국가 AI 자문위원회 구성

반대 여론에도 불구하고 콜로라도 주지사 재러드 폴리스는 금요일에 마지못해 해당 법안에 서명했습니다. 이 법안은 기업들이 인공지능으로 인한 차별 위험을 평가하고, 모니터링 프로그램을 구축하며, 의사 결정 과정에 인공지능이 관여할 경우 소비자에게 알리도록 의무화합니다.

콜로라도 주, 마지못해 AI 책임법 채택

콜로라도 주의 법안은 워싱턴 주와 코네티컷 주의 법안과 마찬가지로 시민권 단체, 기술 업계, 신중한 입법자, 그리고 우려하는 주지사들로부터 환영받지 못했습니다. 이 법안들은 고용, 주택, 의료와 같은 중요한 분야에서 인공지능 편향 문제를 해결하고자 합니다.

기술의 복잡성과 개발을 저해할 가능성 때문에 규제 요구에 대한 저항이 많았습니다. 폴리스 주지사 또한 법안에 대한 우려를 표명하며 인공지능 개발을 저해해서는 안 된다고 강조했습니다. 

법안, AI 편향 평가 및 고객 고지 의무화

콜로라도 주의 법안을 비롯한 6개의 유사 법안은 조직이 AI 시스템의 잠재적 편향성을 평가하도록 요구합니다. AI를 활용하는 일부 기업은 AI가 고객과 관련된 중요한 결정을 내릴 때마다 고객에게 이를 알려야 합니다. 이러한 접근 방식은 AI 애플리케이션의 투명성과 책임성을 강화하는 것을 목표로 합니다.

관련 기사: AI 규제, 기술 대기업과 규제 당국 간 논쟁 촉발

이번 계획은 올해 400건이 넘는 AI 관련 법안이 발의되는 등 더욱 광범위한 입법 논의 속에서 나왔습니다. 이러한 법안들은 대부분 딥페이크나 AI 기반 음란물과 같은 AI의 특정 측면에 초점을 맞추고 있습니다. 하지만 이번에 발의된 7개의 야심찬 법안은 AI의 가장 어렵고 보편적인 문제 중 하나인 차별에 초점을 맞추고 있습니다. 

미국 국무부의 인공지능 전문가인 럼먼 초우더리는 다음과 같이 말했습니다.

"우리는 실제로 어떤 알고리즘이 사용되는지, 그 알고리즘이 제대로 작동하는지, 혹은 우리가 차별을 받고 있는지 전혀 알 수 없습니다."

AI 차별은 채용, 주택, 의료 분야에 도사리고 있다

현행 차별금지법은 인공지능 사용으로 인해 발생하는 문제들을 충분히 다루지 못하고 있습니다. 시민권 변호사인 크리스틴 웨버는 인공지능이 한 명의 의사결정자보다 훨씬 더 큰 규모로 편견을 증폭시킬 수 있다고 지적했습니다.

"물론 기존 시스템도 편견에서 완전히 자유로웠던 것은 아닙니다. 한 사람이 하루에 검토할 수 있는 이력서의 수에는 한계가 있었죠. 따라서 하루에 편향된 결정을 내릴 수밖에 없었지만, 컴퓨터는 많은 사람들을 대상으로 신속하게 작업을 처리할 수 있습니다."

크리스틴 웨버

관련 기사: 유럽연합(EU), 인공지능 규제 주도

웨버의 사례는 AI가 어떻게 차별을 현실로 드러낼 수 있는지 보여주는 완벽한 예시입니다. 한 사례에서는 임대 신청에 사용되는 AI 도구가 흑인과 히스패닉계 사람들에게 낮은 점수를 주었다는 주장이 제기되었습니다. 이러한 문제는 의료 분야에도 영향을 미치는데, AI 시스템이 편향된 평가를 바탕으로 흑인 환자에게 특별한 치료를 거부하는 사례가 관찰되었습니다. 콜로라도 주의 법안은 AI 시스템의 편향성을 매년 검토하고, 내부 규제를 도입하며, 차별적인 결과를 주 법무장관에게 보고하도록 함으로써 이러한 문제들을 해결하고자 합니다. 

기업들은 영업비밀 노출을 우려해 투명성을 꺼리고 있다.

이 법안의 취지는 투명성과 책임성을 증진하는 것이지만, AI 업계에서는 몇 가지 우려가 제기되고 있습니다. 대형 AI 기업들은 이러한 조치를 대체로 긍정적으로 보는 반면, 소규모 기업들은 잠재적으로 너무 복잡하다고 여깁니다. Thumper.ai의 설립자 로건 세르코브닉은 다음과 같이 말했습니다.

"기술이 형성되는 과정에서 우리를 defi틀에 가두고 기술 사용을 제한하는 지나치게 엄격한 법률은 혁신에 해로울 뿐입니다."

AI 기업들은 또한 주 법무장관 외에는 누구도 해당 법률에 대해 소송을 제기할 수 없도록 하는 조항을 추가하는 데 성공했습니다. 콜로라도 주의 이러한 조치는 의회가 연방 차원의 AI 규제를 논의하는 가운데 나온 것입니다. 의회는 아직 AI 규제 법안을 통과시키지 않았지만, 척 슈머 상원 다수당 원내대표는 지난주 AI 규제에 대한 가이드라인을 담은 보고서를 발표했습니다.

Brenda Kanana의 Cryptopolitan 보고