AI의 위협은 기술이 아닌 인간의 의도에 관한 문제입니다, 버지니아 디무 교수

TL;DR 요약

• AI가 제기하는 주요 위협은 기술 자체보다는 인간이 기술을 오용하는 방식에 있습니다.
• 불평등, 편견, 차별 및 프라이버시 문제와 같은 AI 시스템으로 인한 문제를 해결하는 데 즉각적인 주의가 기울여져야 합니다.
• AI에 대한 규제와 책임은 개발자, 정부, 규제 기관 간의 협력적 노력을 통해 윤리 기준을 준수하고 사회를 보호해야 합니다.

인공지능(AI) 개발은 인류에 대한 존재적 위협을 초래할 수 있다는 우려를 불러일으켰습니다. 그러나 EU AI 고위급 전문가 그룹의 일원인 버지니아 디뮴(Virginia Dignum) 교수는 기술 자체보다 인간이 이를 어떻게 활용하는지가 주요 관심사라고 강조합니다. 최근 인터뷰에서 디뮴 교수는 AI는 본질적으로 위험하지 않지만, 개인이 권력이나 부를 축적하거나 악의적인 목적으로 사용할 때 위험이 될 수 있다고 지적했습니다. 이러한 관점은 AI가 자율적으로 파국적인 시나리오로 나아간다는 주장을 반박하며, 현재 AI의 오용과 그것이 사회에 미치는 부정적 영향을 해결해야 할 필요성을 강조합니다.

디뮴 교수는 공상적인 미래 시나리오에만 집중하기보다 오늘날 AI 시스템이 초래하는 시급한 문제들에 직면할 것을 촉구합니다. 불평등, 편향, 차별, 사생활 침해 문제는 그중 일부에 불과합니다. AI가 우리 삶의 다양한 측면에 지속적으로 스며들면서 사회에 미치는 영향은 더욱 강해지고 있습니다. 따라서 노력은 먼 미래의 종말론적 시나리오에만 고정되는 것이 아니라, 이러한 현재의 과제들을 시정하는 데 집중되어야 합니다.

개발자와 정부의 책임

책임 소재를 인정하는 디뮴 교수는 기업과 정부의 AI 규제 역할을 강조합니다. 개발자는 자신이 만든 시스템에 대한 책임을 지고 안전성과 윤리 기준을 보장해야 합니다. 한편, 정부는 적절한 규정을 제정하여 시민을 보호할 책임이 있습니다. 최근 EU의 AI법과 같은 발전은 올바른 방향으로의 한 걸음을 보여줍니다. 이 획기적인 입법은 AI 애플리케이션을 위험 수준에 따라 분류하고, 허용되지 않는 위험 애플리케이션을 기본적으로 금지합니다. 그러나 규제에 대한 책임은 기관에만 맡길 수 없으며, 정책 입안자, 규제 기관, 정부, 기업 부문이 참여하는 협력적 노력이 필요합니다.

자율적 행동 강령과 입법의 필요성

EU와 미국이 개발한 자율적 행동 강령과 같은 조치는 긍정적인 시도로 평가되지만, 비판자들은 이러한 강령이 기술 발전 속도를 따라가지 못한다고 지적합니다. AI의 위험을 포괄적이고 효과적으로 해결하기 위한 긴박감이 고조되고 있습니다. 디뮴 교수는 기술에만 초점을 맞춘 규제를 넘어설 중요성을 강조합니다. 대신 입법은 AI 시스템의 효과와 적용에 초점을 맞춰야 합니다. 결정이 고급 AI에 의해 내려졌는지, 간단한 스프레드시트나 인간에 의해 내려졌는지에 관계없이, 그 결정이 사람들의 삶에 미치는 영향이 책임 소재와 규제의 핵심 기준이 되어야 합니다.

AI 시스템에 대한 '운전면허증'의 필요성

디뮴 교수는 AI 시스템에 대한 규제 도입을 자동차를 운전하기 전에 운전면허증을 취득하는 것에 비유합니다. 면허 없이 운전하는 것이 자신과 타인에게 위험을 초래할 수 있듯, 책임과 규제가 없는 AI 시스템의 배포는 치명적인 결과를 초래할 수 있습니다. AI의 개발과 배포는 개인과 사회를 보호하기 위한 안전 장치가 마련되어 있는지 확인하는 것과 유사한 수준의 책임감을 가지고 접근해야 합니다. 이 비유는 AI 애플리케이션을 효과적으로 관리하기 위한 기준, 가이드라인, 모니터링 메커니즘을 수립하는 시급성을 강조합니다.

AI의 잠재적 위험에 대한 우려가 큰 주목을 받고 있지만, 버지니아 디뮴(Virginia Dignum) 교수는 AI 자체가 인류에게 위협이 된다는 관념에 의문을 제기합니다. 대신 그녀는 진정한 위험은 기술이 개인적 이익이나 악의적 의도로 인간에 의해 오용되는 데서 비롯된다고 강조합니다. 불평등, 편향, 차별, 개인정보 보호 문제 등 AI 시스템으로 인해 발생한 기존 문제를 해결하기 위해 시급한 조치가 필요합니다. 이는 개발자, 기업, 정부, 규제 기관이 참여하는 집단적 노력을 통해 책임, 안전, 윤리 기준을 보장해야 함을 의미합니다. AI 시스템의 책임 있는 사용과 규제를 집중함으로써 우리는 사회에 미치는 잠재적 긍정적 영향을 극대화하면서 사회가 직면한 위험을 최소화할 수 있습니다.