콜로라도주 상원의원, AI 사용 안전 정책 수립 추진

콜로라도주 상원의원 존 히켄루퍼는 인공지능(AI)의 안전한 사용을 위한 중요한 첫걸음으로 AI 감사 정책 수립 계획을 시작했습니다. AI 시스템 검증을 위한 명확한 기준을 마련하는 데 중점을 두고 있는 히켄루퍼 의원은 업계 전문가 및 주요 관계자들과 협의를 통해 의견을 수렴하고 있습니다. 이러한 노력은 AI 기술이 효과적이면서도 안전하게 사용될 수 있도록 하는 법안을 마련하는 데 필요한 지침을 제공하는 것을 목표로 합니다.

콜로라도의 제작 기준

히켄루퍼 주지사의 전략은 상무부가 주도하는 협력적인 노력을 포함합니다. 목표는 인공지능 기술에 대한dent 감사를 위한 지침 역할을 할 수 있는 자발적 표준을 개발하는 것입니다. 히켄루퍼 주지사는 지난 2월 연설에서 인공지능 산업에 대한 외부 감독의 중요성을 강조하며, 잠재적 위험을 고려할 때 자율 규제를 피해야 한다고 언급했습니다. 

"만약 우리가 주의하지 않고 인공지능을 그런 방향으로 이끌지 않는다면, 인공지능은 그들이 앞으로 무엇을 할지 고려하지 않은 채 수많은 노동자들을 일자리에서 밀어낼 수 있습니다. 이는 오늘날 내려지는 수많은 결정 중 하나의 예시에 불과하며, 이러한 결정들은 앞으로 여러 세대에 걸쳐 영향을 미칠 것입니다."라고 히켄루퍼 상원의원은 말했습니다. 

이 계획은 자격을 갖춘 제3자를 인공지능 시스템 감사에 참여시킴으로써 연방법 준수를 보장하고 예상치 못한 피해를 방지하는 것을 목표로 합니다. 

설문지 세부 정보

상원 의원실은 AI 시스템 감사와 관련된 주요 사항들을 다루는 설문지를 배포했는데, 여기에는 감사 빈도, 범위, 투명성 요건, 규정 준수 및 전반적인 감사 생태계가 포함됩니다.

Nextgov/FCW에서 수집한 이 설문지는 효과적이고 실용적인 감사 기준을 defi도움이 될 상세 정보를 수집하기 위해 설계되었습니다. 주요 초점 중 하나는 이러한 기준을 소프트웨어 개발의 다양한 단계에 맞게 조정하여 상류 및 하류 개발 프로세스에서 발생하는 고유한 문제점을 해결하는 방법입니다.

제3자가 인공지능 시스템의 입력과 출력을 평가하여 고품질의 안전한 결과를 도출하는지 확인하는 관행을 인공지능 감사라고 합니다. 히켄루퍼 주지사 사무실은 해당 질문들의 출처를 확인했으며, 이 질문들이 향후 입법 활동과 2월 초에 발표한 규제 체계 수립에 참고 자료로 활용될 것이라고 밝혔습니다.

히켄루퍼 의원은 감사 범위에 대해 매우 자세한 질문을 했습니다. 그는 소프트웨어 아키텍처 전반에 걸쳐 작업하는 개발자를 위해 향후 감사 기준을 어떻게 수정해야 하는지에 대한 질문을 제기하면서 주로 상류 개발과 하류 개발의 차이점을 언급했습니다.

또한, AI 모델 훈련 데이터 접근, 시스템 출력에 대한 직접 평가, 내부 검증 테스트 및 정성적 평가와 같은 추가 요구 사항을 AI 감사 표준에 포함할 수 있는지 여부에 대해서도 문의합니다. 

히켄루퍼 주지사는 이러한 선제적 접근을 통해 인공지능 기술을 더욱 안전하고 신뢰할 수 있게 만드는 규제 체계의 토대를 마련하고 있습니다. 투명성, 규정 준수, 그리고 사회 복지를 최우선으로 고려하는 이 계획은 인공지능의 책임 있는 개발 및 배포에 있어 중요한 진전입니다.